AIアライメントとは？AIの暴走を防ぐための重要なステップ
- 2024.02.27
AIアライメントとは、AIシステムの目的と人間の価値観を調和させることです。 AIの開発競争が加速する中、AIの性能が向上するにつれ、AIが人間の意図と異なる行動をする問題が生じる可能性があります。このAIの暴走問題を解決するため、AIアラインメントが注目されおり、人間が望む方向にAIが進むように設計することを指します。 最近のAIの発展とともに、アライメントの重要性が高まっています。大規模な言語 […]
用語解説
1/2ページ
【AI用語解説: エンベディング】計算機で言葉を扱うってどうゆうこと？
- 2024.02.27
大規模言語モデル（LLM）は、コンピューターの癖に、人の言葉を理解し、使いこなしています。極端な話０と１の電気信号がなぜ言葉を扱えるのかと疑問に思ったので調べました。 どうも人間が日常的に使用する言語をコンピュータに理解させる研究は、自然言語処理（NLP）という分野であり、その中で言葉や、文章を計算可能な形に変換することをエンベディングといいます。 今回はエンベディングに関して調べたことをまとめま […]
【ガバメントクラウド】ってなに？世界と日本はどんな感じ？
- 2024.02.27
クリスマスの朝にこんな記事が目に入りました。 https://www.sbbit.jp/article/cont1/128811 国のシステムをクラウド化するにあたって、自治体とのズレを喚起した記事です。11月にはさくらインターネットが政府のクラウドにというニュースもありました。そもそも「ガバメントクラウド」って何かと思い調べました。 ガバメントクラウドとは ガバメントクラウドとは、国や地方自治体 […]
【ELIZA効果とは？】いろいろな名称とその由来でAI大喜利してみた
- 2024.02.27
Geminiの発表動画を見た際に、AIと人とのコミュニケーションの可能性を見た人は少なくないはずです。マルチモーダルなAIの応答に、自然とこちらもテンションが上がったり、それまでこちらからの指示が整然としたプロンプトであったのに対し、急に会話口調になったりしたことはないでしょうか。 こういった現象は「ELIZA効果」というらしいです。 こういった名称がつくと、急にAIとの会話も単なる１つの現象なの […]
【AI研究の素】 隠れマルコフモデル（HMM）ってなに？
- 2024.02.27
AIの研究の歴史は古く、今は第３次AIブームと言われています。（70年代中盤と00年代序盤に「冬の時代」があったとのこと）。概念の起源は1950年の著書『計算する機械と人間；アラン・チューリング（英国数学者）』からとのこと。 70年近い歴史を俯瞰した際に、よく見られる単語に「隠れマルコフモデル」があります。結構見かける単語の為どんなものか調べました。 隠れマルコフモデル 隠れマルコフモデル（Hid […]
AI用プロセッサ？NPU（Neural Processing Unit）ってなに？
- 2024.02.27
NVIDIAがAI開発の半導体を牛耳り大儲けしている裏で、CPUもAI用にプロセッサが開発され、各ブランドに搭載され始めているのを知りました。そのAI用のプロセッサであるNPU（Neural network Processing Unit)について調べました。 NPU（Neural network Processing Unit)とは NPUは人工知能やディープラーニングなどのニューラルネットワー […]
検索拡張生成RAG（Retrieval Augmented Generation）って何？
- 2024.02.27
過去記事【LLM】ハルシネーション調査報告【AIの嘘】にてRAG（Retrieval Augmented Generation）というものが出てきたので調べました。 検索拡張生成 RAG（Retrieval Augmented Generation）とは 検索拡張生成とは、検索ベースの人工知能 (AI) モデルと生成ベースのAIモデルを組み合わせた、自然言語処理 (NLP) ベースの技術 […]
【GPT-Turbo】カットオフはステータス？ブラウジングではだめ？
- 2024.02.27
GPT-4Turboの発表の際に、カットオフ日が2023年4月までとのこと。GPT-4のうちでも2021年９月までから2022年1までと確実に学習期間を盛り足しているなかで、とりあえずカットオフについてAIに聞いてみた。 カットオフとは カットオフとはモデルのトレーニングデータセットにおいて、モデルが学習するデータの範囲を決める日付のことです。 例えば、モデルのトレーニングデータセット […]
function Callingとは？GPTアップデートでの関数呼び出し機能アップ
- 2024.02.27
初めてAIチャットボットに触れた際の優秀さの一つに、「自分で調べてくれる」ことだと思った人は多いのではないでしょうか。 その機能について簡単に調べました。 Function calling（関数呼び出）とは Function callingとは、OpenAIの言語モデルが外部のツールやAPIと連携するために、開発者が定義した関数を自然言語で呼び出すことです。 Function callingを使う […]
【LLM】ハルシネーション調査報告【AIの嘘】
- 2024.02.27
LLM（Large Language Model）が誤った情報を出力してしまうことがあるという問題があります。これをハルシネーション（幻覚）と呼びます。 ハルシネーションは、LLMの実用性や信頼性に影響を与える重大な課題です。そこで、最近、ハルシネーションに関する網羅的な調査報告が発表されました。この報告では、ハルシネーションの原因や検出方法、評価ベンチマーク、将来へのロードマップなどが詳しく分析 […]