AI学習ブログ
ジェネレーティブAI開発のAnthropic社は、2023年5月９日に「Claude’s Constitution（Claudeの憲法）」公開しました。下に原文と訳文を並べておきます。（PC推奨） この憲法には、「役に立つこと」「無害であること」「誠実であること」などが示されており、デリケートな話題をどのように扱うべきか、ユーザのプライバシーをどのように尊重するか、違法行為をどのように回避するかに […]
AIアライメントとは、AIシステムの目的と人間の価値観を調和させることです。 AIの開発競争が加速する中、AIの性能が向上するにつれ、AIが人間の意図と異なる行動をする問題が生じる可能性があります。このAIの暴走問題を解決するため、AIアラインメントが注目されおり、人間が望む方向にAIが進むように設計することを指します。 最近のAIの発展とともに、アライメントの重要性が高まっています。大規模な言語 […]
2023年12月18日にOpenAIが、Preparedness Frameworkを公表しました。 これはAIの脅威を防ぐための安全プロセスを拡張するといったもので、 といったものです。 先のサム・アルトマンの人事騒動の後で、体制の整理と、AI研究への姿勢のアピールかと思われます。 が、しかし さきよりOpenAIはQ*(キュースター)と呼ばれるAGI（汎用人工知能）の制作に取り組んでおり、すで […]
大規模言語モデル（LLM）は、コンピューターの癖に、人の言葉を理解し、使いこなしています。極端な話０と１の電気信号がなぜ言葉を扱えるのかと疑問に思ったので調べました。 どうも人間が日常的に使用する言語をコンピュータに理解させる研究は、自然言語処理（NLP）という分野であり、その中で言葉や、文章を計算可能な形に変換することをエンベディングといいます。 今回はエンベディングに関して調べたことをまとめま […]
クリスマスの朝にこんな記事が目に入りました。 https://www.sbbit.jp/article/cont1/128811 国のシステムをクラウド化するにあたって、自治体とのズレを喚起した記事です。11月にはさくらインターネットが政府のクラウドにというニュースもありました。そもそも「ガバメントクラウド」って何かと思い調べました。 ガバメントクラウドとは ガバメントクラウドとは、国や地方自治体 […]
Geminiの発表動画を見た際に、AIと人とのコミュニケーションの可能性を見た人は少なくないはずです。マルチモーダルなAIの応答に、自然とこちらもテンションが上がったり、それまでこちらからの指示が整然としたプロンプトであったのに対し、急に会話口調になったりしたことはないでしょうか。 こういった現象は「ELIZA効果」というらしいです。 こういった名称がつくと、急にAIとの会話も単なる１つの現象なの […]
AIの研究の歴史は古く、今は第３次AIブームと言われています。（70年代中盤と00年代序盤に「冬の時代」があったとのこと）。概念の起源は1950年の著書『計算する機械と人間；アラン・チューリング（英国数学者）』からとのこと。 70年近い歴史を俯瞰した際に、よく見られる単語に「隠れマルコフモデル」があります。結構見かける単語の為どんなものか調べました。 隠れマルコフモデル 隠れマルコフモデル（Hid […]
NVIDIAがAI開発の半導体を牛耳り大儲けしている裏で、CPUもAI用にプロセッサが開発され、各ブランドに搭載され始めているのを知りました。そのAI用のプロセッサであるNPU（Neural network Processing Unit)について調べました。 NPU（Neural network Processing Unit)とは NPUは人工知能やディープラーニングなどのニューラルネットワー […]
2023年11月15日に発表されたMicrosoft ignite にて、Copilot Studioが発表されました。 これはローコードで AI 開発ができるというもので、GPTｓとGPTstoreの展開と大きな時間差なく発表されました。 先のGPTsとともに、AI開発は個人のカスタムチューニングへと階段を上りました。その中で覇権を握るのはどこか。その要因は何なのか。Copilot S […]
過去記事【LLM】ハルシネーション調査報告【AIの嘘】にてRAG（Retrieval Augmented Generation）というものが出てきたので調べました。 検索拡張生成 RAG（Retrieval Augmented Generation）とは 検索拡張生成とは、検索ベースの人工知能 (AI) モデルと生成ベースのAIモデルを組み合わせた、自然言語処理 (NLP) ベースの技術 […]
