生成AI・LLM

生成AI・LLM

日本語の埋め込みベクトルを実測したら「猫が犬を追う」と「犬が猫を追う」が0.98だった

こんにちは!zhackです。AIが「意味の近さ」を測るしくみに、埋め込み(Embedding) というものがあります。言葉を数百〜数千個の数字の並び(ベクトル)に変換して、その向きが近いほど意味が近い、という考え方です。RAGや意味検索の土...
生成AI・LLM

ローカルLLMの速度は自分で測れる|tokens/秒とVRAM使用量の調べ方

こんにちは!zhackです。先日、ローカルLLMの入門記事を書いたときに「GPUがあると毎秒30〜60トークンくらい出る」という数字を載せました。調べて出てきた数字を、そのまま書きました。そのあと実際に自分のPCで測ってみたのですが、87ト...
生成AI・LLM

【画像付き】WindowsでOllamaの環境構築!ローカルLLMに「回答はどれ?」と聞く羽目になった話

こんにちは!zhackです。自分のPCの中だけでAIを動かす「ローカルLLM」、前から気になっていたので試してみました。インストール自体は、正直すんなりいきました。ただ、いざ質問を投げてみたら画面が英語でびっしり埋まってしまい、どこが答えな...
スポンサーリンク
生成AI・LLM

単語ベクトルとEmbeddingの違い|Word2Vec比較

CBOWやSkip-Gramで学んだ単語ベクトルと、最近よく聞くEmbeddingは何が違う?文脈・単位・使い方の3軸で違いを整理し、どちらをいつ使えばいいのかまで初心者向けに解説します。
生成AI・LLM

Claude Code×WSL|隔離できてなかった話

AIエージェントが怖くてWSL環境を用意したが、確認したらWindowsフォルダへの読み書きもcmd.exeの実行も普通にできた。隔離できていたのは依存関係だけ。実測結果と、締めるか利便性を取るかの判断を記録する。
生成AI・LLM

ローカルLLM入門|PCでAIを動かすメリットとOllama

ローカルLLMとは、自分のPCでAIを動かす仕組みです。クラウドAIと比べたプライバシー・コスト・カスタマイズのメリットと、OllamaでCPUだけでも始められる方法を初心者向けにやさしく解説します。
生成AI・LLM

MCPサーバーを自作してみた|最小構成で作る入門

MCPサーバーを実際に作って動かしてみた軽量版チュートリアル。公式PythonSDKのFastMCPを使い、Python関数に@mcp.tool()を付けるだけで動く最小のMCPサーバーを、実コードと実行ログ付きで解説します。
生成AI・LLM

MCPとは?AIとツールの共通規格を5分で解説

MCPとは、AIと外部ツールやデータをつなぐ共通規格のこと。Anthropicが公開した「AI版USB-C」の比喩で、なぜMCPが必要で何がうれしいのかを、予備知識ゼロの初心者向けにやさしく解説します。
生成AI・LLM

言語モデルとは?GPTが次の単語を当てる仕組み

言語モデルとは、次に来る単語を確率で予測する仕組みのこと。スマホの予測変換からn-gram、ニューラル言語モデル、GPTまで、AIが自然な文章を作れる理由を予備知識ゼロからやさしく解説します。
生成AI・LLM

推論モデルとは?AIが考えてから答える仕組みを解説

推論モデル(リーズニング)とは、答える前に思考の連鎖で段階的に考えてから回答するAI。機械学習の「推論(inference)」との用語の違いや、従来の即答型AIとの使い分けを、暗算と筆算の比喩で初心者向けに解説します。