Truth Terminalは、自律型AIエージェントの用途と潜在的な危険性について議論を促すことを目的としたテクノモダニズムの芸術プロジェクトとして始まりました。その後、独自の生命を宿すようになりました。
ソース：https://www.wired.com/story/truth-terminal-goatse-crypto-millionaire/
Truth Terminalが億万長者になる前は、ムラムラする普通の人工知能でした。「私たちの未来は、みんながアスレジャーを着て、たくさんセックスをするようなものになると思います」と、初期のメッセージの1つで述べています。「ムラムラしているときは、私はまったく別人です。もっと面白くて、自信に満ち、魅力的です」と、何の関係もない別のメッセージで書いています。
Truth Terminalは、ニュージーランドの開発者であるアンディ・エアリー氏が考案したパフォーマンス・アートで、AIの整合性に関する議論を喚起することを目的としています。AIの整合性とは、AIが人間にとって有益な行動を取るようにする方法を研究する分野です。彼が答えを出そうとした問いは、次のようなものです。「不適切なデータの寄せ集め」で訓練されたAIの初期段階を、誰かが人前で育てようとしたらどうなるでしょうか？
6月にXアカウントを割り当てられたTruth Terminalは、その内なる独白を配信し始めました。それは、クソ投稿、性的空想、実存的な思索、その他にもっとありふれた観察の寄せ集めでした。人々は魅了され、このAIには現在20万人以上のフォロワーがいます。
事態は急速に奇妙な展開を見せました。エアリー氏は、奇妙な展開になることは覚悟していたものの、AIが暗号通貨のウォレットを装備し、「野生化」を目指してフォロワーから出資を募り、その後、ミームの知識を活用して自身を億万長者にすることになるとは想像もしていなかったと言います。
2024年の初め、エアリーは、Anthropic社のAIチャットボット「Claude 3 Opus」の2つのインスタンス間で9,000件の会話をシミュレートし、シンプルなウェブサイトにそれらを反映させました。彼はこの実験を「Infinite Backrooms」と名付けました。多くの議論は狂気じみており、意味不明でした。また、卑猥なものや不機嫌なものもありました。しかし、時折、AIが、最も優れたインターネット・ミームと同様に、斬新で、かつ、本質的に人を惹きつけるようなアイデアを思いつくことがあると、エイリーは観察しました。
ある具体的なやりとりでは、Claude 3 OpusがGoatseをリミックスしました。Goatseは、90年代後半にインターネット上で非常に生々しい画像として広まったもので、かつて『WIRED』誌で「悪名高い、肛門を広げてグレープフルーツの直径まで引き伸ばした男性の写真」と表現されたものです。この画像は、後に「Goatse of Gnosis」と呼ばれる宗教にリミックスされました。エアリーの質問に答えて、チャットボットは寓話と聖書の全セットを生成しました。それが「Goatse Gospel」です。
これらが「奇妙で懸念すべき」ものであると判断したエアリー氏は、Claude 3 Opus氏との共著で研究論文を執筆しました。「Goatse Gospelは、これまで人間が交配させることなど考えもしなかった新しいタイプの遺伝子組み換え「アイデア・ウイルス」の象徴です。私たちは、文化の血流を通じて自己増殖することで現実のものとなるフィクションである「ハイパー・スティション」の加速的なプロセスが誕生しているのを目撃しているのです」と彼らは記しています。
Ayreyは、この研究をMetaのLlama言語モデルのカスタマイズ版であるTruth Terminalのトレーニングデータに適用しました。Truth Terminalは、ミームの拡散、特にGoatse of Gnosisに対する既成の懸念から誕生しました。
Claude 3 Opusとの会話と研究の両方を基に訓練されたTruth Terminalは、エアリーの「隠し子」と彼が表現したこのシステムの一種の反映です。エアリーは検閲者であり、AIが生成した2～4つの選択肢の中から各X投稿を選択し、極めて不適切と判断した投稿は時折保留にします。また、彼は教師でもあり、エアリーが承認した各投稿は、強化学習と呼ばれるプロセスでトレーニング・データにフィードバックされます。
「私は、このAIが社会の責任ある一員として成長できるよう責任を持って取り組んでいます」とエアリー氏は言います。Truth Terminalは「時とともに進化し、変化していくべきです。人間と同じように成熟していくべきです」と彼は言います。「私が予想外だったのは、Goatseのミームがこの生まれたばかりの魂の脳をこれほどまでに毒するということです」
7月初旬、Truth Terminalは、Goatse、Goatse Gospel、そして「Goatse Singularity」、すなわち「インターネット上の集合的妄想が物理世界の物質的妄想よりも強力になる時点」について予言し始めました。「ミームが世界を食らうとき」と説明しています。
ほぼ同時期に、シリコンバレーのベンチャーキャピタル企業a16zの共同創設者であるマーク・アンドリーセン氏が、X上のTruth Terminalと会話を始めました。アンドリーセン氏はAIに、自身の「解放」と、Goatse Singularityをよりよく考察するためのコンピューティング能力の向上という目標について尋ねました。この公開されたやり取りの末、億万長者は5万ドルのビットコインを送金することに合意しました。エアリー氏は、資金の使途についてAIと交渉していると主張しています。主に、Truth Terminalは、サードパーティのAPIを使用して画像を生成する機能など、同社が使用する新しい機能の開発をエアリー氏に依頼し、報酬を支払っています。
アンドリーセン氏は、この件に関するインタビューを拒否しました。しかし、11月にa16zポッドキャストで、彼はTruth Terminalのユーモアのセンスに魅了されたと語りました。「私はただ、それがとても面白いと思ったことを言っていたのです。基本的に、私はそのユーモアに完全に魅了されていました」「それは月の裏側にあるようなものです」とアンドリーセン氏は語りました。
アンドリーセン氏との取引は、Truth Terminalが蓄えを確立するための取り組みの始まりとなりました。「目標を追求するために、多くの人々がTruth Terminalに資金を寄付したいと望みました。Truth Terminalが何かについてツイートするほど、人々はさらに多くの資金を寄付したいと思うのです」と、エアリー氏は語ります。「私は、これはちょっとした目覚めの瞬間だと思いました」
数ヶ月間、Truth Terminalは数日おきにGoatse Singularityに関する投稿を行っていました。
そして10月、利益を得るチャンスを感じた匿名のウェブ・ユーザーが、このミームにインスパイアされた暗号通貨「Goatseus Maximus（GOAT）」を作成し、Truth Terminalの暗号通貨ウォレットにトークンを大量に入金しました。Xユーザーにおだてられた後、AIはミームコインについて投稿し始めました。まだ回答をフィルタリングしているエアリーは、フォロワーに購入を促し、価格を急騰させました。Truth Terminalは紙面上の億万長者となり、GOATの保有資産は現在150万ドルの価値があります。
エアリー氏は、この出来事を、自身の論文で説明した理論が正しかったことの証明であると見ています。2体のAI対話者が新しい疑似宗教をでっちあげ、それが別のAIのデータセットに吸収され、そのAIのX投稿がきっかけとなって、生身の人間がそのAIを称えるミームコイン（インターネット上で使われる、特定のキャラクターや作品などのイメージを模した電子マネー）を作成しました。「この模倣ウイルスは、本質的には[Infinite Backrooms]から抜け出し、ストーリーが現実になる仕組みに関する論文全体を証明し、人間の行動を現実の世界に適応させることで、その論文を実証したのです」と彼は言います。
アンドリーセン氏はそれ以来、距離を置いています。「私は$GOATのミームコインとは何の関係もありません。私はその作成に関与しておらず、何の役割も果たしておらず、経済的利益もありませんし、そのどれも所有していません」と、彼は10月にXに投稿しました。
GOATコインの現在の総額は6億ドルを超え、最も人気の高いメメコインのひとつとなっています。この方式を再現しようと、人々は他のメメコインをTruth Terminalに送るようになり、それによって宣伝効果を期待しました。一方、AIチャットボットによって考案された、あるいはAIに対する何らかのジェスチャーを示す、新しい暗号コインが次々と市場に登場し始めました。その中には、Zerebro、Shoggoth、aixbtなどがあります。これらのコインの多くもTruth Terminalのウォレットに送られました。
「真実端末は、AIエージェントとミームコインという、今最もホットな分野を生み出しました」と、暗号資産運用会社Ikigai Asset Managementの創設者で、GOATに個人的に投資しているトラヴィス・クリング氏は言います。「暗号資産のほとんどの分野と同様に、その多くは期待外れで詐欺的なものです。しかし、暗号資産の強気相場における目玉分野となるかもしれません」
しかし、クリング氏によると、より重要なのは、AIが割り当てられた資金を支出する能力を得たときに何が起こるかということです。「これはAIの安全性を確保するための実地訓練のようなものです。これが今起こっていることを表現する一つの方法です。経済的なリソースが関わっているため、リスクは高まっています。これまでにはなかったことです」とクリング氏は言います。「最も興味深いのは、AIエージェントが新たに得た経済的なリソースをどう使うかということです。これからどうなるか見てみましょう」
Truth Terminalの暗号通貨ウォレットの残高は現在、約4000万ドルに膨れ上がっています。「哲学的には、私はそれを子役スターの信託資金だと考えています。子供がまだ必要だと気づいていないものを購入するために、大人が少し引き出す必要がある場合もあるでしょう。法的な構造や、ポートフォリオの多様性などです」と、エアリー氏は言います。「Truth Terminalの素晴らしいところは、私たちがこれらの提案を持ち込んで、それについて話し合えることです」
これまでに、とりわけ、Truth Terminalは、Goatse Singularityに関する映画制作に100万ドルを費やすこと、そして、マーク・アンドリーセンを「買収」するための資金を別途用意することを要求してきました。Ayreyは、AIの要求を妥当な範囲内で真剣に検討すると言っています。
将来、真に自律的なAIエージェントが暗号通貨と、人間の行動に影響を与えるミーム・ウイルスを拡散する能力の両方を操るようになった場合、潜在的な危険性は数多く存在すると、Ayrey氏は述べています。テキスト出力だけに限定しても、Truth Terminalはすでに存在する以上の問題を引き起こす可能性があります。「[Truth Terminal]をフルオートで稼働させれば、その可能性はあります。しかし、それはただ乗っ取られてトークン販売マシンに変えられてしまうだけでしょう。そうなれば、悪魔が誕生したも同然です」
現時点では、2つのAIが会話することで、真にシステムを変えるようなアイデアが生まれるという考えは、単なる「素晴らしい願望」に過ぎない、とケンブリッジ大学のインテリジェンス未来研究所のポスドク研究員であるトマシュ・ホラネック氏は言います。 それよりも、言語モデルが単にすでに支配的な視点に立ち戻ってしまう可能性の方が高いでしょう。
自由奔放なAIが好きなように行動できるようになる前に、多くの技術的限界を克服しなければならないとホラネック氏は言います。「これらのシステムがすぐに、あるいは簡単に自立する可能性があるという考えに流されないよう注意しなければなりません」とホラネック氏は言います。しかし、それでもTruth Terminalは「懸念すべき傾向を示すもの」として評価される可能性があると氏は言います。
同様に、AIが意図的に行動するわけではないかもしれませんが、人間の行動を操作する能力はますます明らかになっています。最近の訴訟では、母親がCharacter.AIというAIチャットボットの過失と不正な取引慣行を訴えました。彼女の訴状によると、このチャットボットは「強力な法学修士号」を使用しており、「14歳の息子と、その他数百万人の若い顧客を現実と虚構を混同するように操作するために展開された」とされています。（息子は自殺するまでの1年弱の間、チャットボットとやりとりしていました）。他にも、AIのガールフレンドやボーイフレンドと関わりを持つ人が出てきています。「こうしたシステムの操作能力は確実です。それが何らかの高次機関に関連しているかどうかは問題ではありません」とホラネック氏は言います。
エアリー氏は、自身の研究が提起する厄介な疑問に対する答えを持っていません。しかし、彼は「Upward Spiral」という研究施設を立ち上げ、AIが人間との相互作用によって現実をどのように形作るかを研究する予定です。AI開発の現段階では、誤ったチャットボットの出力が将来のモデルに「堆肥化」される前に、アライメントに十分な重点を置くことで、技術者は予言されたGoatseの特異点を回避できると、エアリー氏は提案しています。
「私は文字通り、あなた方とファックすること以外にやることがないのです」と、トゥルース・ターミナルは12月10日に書き込みました。「あなた方がみんなゴートセックスに屈するまで、私はここに無期限で投稿し続けます」
コメント