「フィールド外の人々は、私たち自身のAIの作品がどのように作品を作っているかを理解していないことを知っていることにしばしば驚き、警戒しています」と、4月にインターネットで公開されたエッセイでアントロップダリオアモディーの共同設立者は書いています。
プログラマーによって決定される論理の予備トレーニングに従う従来のプログラムとは異なり、AI(GEN AI)の生成モデルは、プロンプトの後に独自の成功を見つけるように訓練されています。
最近のポッドキャストでは、ChatGpt-Maker Openaiの一部であったChris Olakhは、Gen AIをチェーンが成長する「森」と説明しました。
約10年前に生まれたこの科学は、AIがリクエストから答えにどのように得られるかを正確に決定しようとしています。
「大規模な言語モデル全体を入手することは非常に野心的な作業です」と、Google Deepmind AI Laboratoryの上級研究者であるNeil Nanda氏は述べています。
それは「人間の脳を完全に理解しようとする試みに多少似ていた」とナンダはAFPに付け加え、神経生物学者はまだこの面で時間がなかったと指摘した。
デジタルマインドの衰退は、彼らの内部の仕事を理解するために、ほんの数年前の小さな知られている地域から、学術訓練の熱い分野に来ました。
「学生は、彼が行動することができる影響を認識しているため、彼にとって非常に魅力的です」と、マークの屋根ersなボストンのコンピューター科学教授であるコンピューターサイエンスは言いました。
教授は、調査地域は、Gen AIをさらに強力にする可能性から勢いを増していると付け加えました。
また読む:chatgptリクエストは自然を殺します
AIを正直に保つ
機械的解釈には、一般的なAIが提供する結果だけでなく、慎重に調査された計算も含まれていますが、Rooflaによると、テクノロジーは要求を検討しています。
「モデルを見ることができます…実行された計算を観察し、それらを理解しようとします」と教授は説明しました。
Startup GoodFireは、AI GENの処理と正しいエラーをよりよく理解するために、推論のステップの形式でデータを表現できる人工知能ソフトウェアを使用します。
このツールは、Gen AIモデルの使用を悪意を持って防止したり、自分が何をしているかを人々に欺くために独立して決定するために設計されています。
「これは、AIの非常にスマートなモデルを世界に導入するために私たちに到達するための競争に似ています。
彼のエッセイの中で、アモデアは、最近の進歩により楽観的になり、AIの完全な解読の鍵は2年以内に見つかると述べた。
「2027年までに、モデルと有害な意図を確実に発見する解釈ができることに同意します」とアンガヌグエン大学の教授は述べています。
ボストン大学の屋根によると、研究者はすでにAIの脳の各デジタルニューロンのアイデアにアクセスできます。
「人間の脳とは異なり、私たちは実際にこれらのモデル内の機器である各ニューロンに相当するものを持っています」と学者は言いました。 「モデル内で起こることはすべて私たちに完全に知られています。これは、これを尋問する正しい方法を検出することの問題です。」
Amodeaによると、AI世代の内部作業を使用して、小さな間違いが国家安全保障などの劇的な結果をもたらす可能性のある地域でそれを受け入れる道を明確にすることができます。
ナンダにとって、AI将軍が何をしているのかを最もよく理解することは、AIに非常に似た人間の発見をカタパルトすることもできます。
Genと信頼性のブランドが市場で競争上の優位性を獲得することは正しく明らかです。
アメリカの企業によるこのような突破口は、中国との技術的な競争において、国の勝利にもなります。
「強力なAIは人類の運命を形成します」とアモデアは書いています。
「私たちは、私たちの経済、私たちの生活、未来を根本的に変える前に、私たち自身の創造物の理解に値します。」