Tristan Greene
2023年05月31日 14:20
AIによる人類絶滅リスクは「世界的な優先事項だ」 AI専門家やAI企業トップたちが文書に署名
人工知能（AI）の専門家たちが、AIセキュリティセンター（CAIS）が発表したオープンステートメントに署名した。署名者には、OpenAIのCEO、グーグル・ディープマインドのCEO、アンソロピクのCEOなどが含まれている。
このステートメントには、「AIによる絶滅のリスクの軽減は、パンデミックや核戦争などの社会規模のリスクと並んで、世界的な優先事項であるべきだ」という一文が含まれている。
署名者には、AIの「ゴッドファーザー」とも呼ばれるジェフリー・ヒントン氏、カリフォルニア大学バークレー校のスチュアート・ラッセル氏、マサチューセッツ工科大学のレックス・フリードマン氏など、AI分野の著名人が名を連ねている。ミュージシャンのグライムスも、「その他の著名人」のカテゴリで署名者に名を連ねている。
表面上は無害に見える今回のステートメントだが、AIコミュニティでは議論の的となっている。現在の技術が人類にとって存亡の危機をもたらすAIシステムの出現や発展につながると考える専門家が増えているようだ。しかし、そのような見解には反対意見も存在する。例えば、メタのチーフAIサイエンティストであるヤン・ルカン氏は、AIが制御不能になるとは必ずしも考えていないと何度も述べている。
彼やグーグル・ブレインの共同創設者であり、バイドゥの元チーフサイエンティストであるアンドリュー・ング氏など、「絶滅」論に異を唱える人々にとって、AIは問題ではなく解決策である。一方で、ヒントン氏やコンジェクチャーCEOのコナー・リーヒ氏などの専門家は、人間レベルのAIが避けられないと考え、今が行動を起こす時だと主張している。
しかし、このステートメントの署名者が具体的にどのような行動を求めているのかは不明だ。ほぼすべての主要AI企業のCEOやAI部門のトップ、さらには学界の著名な科学者たちが署名しており、これらの潜在的に危険なシステムの開発を止める意図はないことは明らかだ。
今月初めには、上記のステートメントの署名者であるOpenAIのCEOサム・アルトマン氏が、AI規制に関する上院公聴会で初めて議会に出席した。彼の証言は、業界への規制を求める発言が大半を占めていたことで話題となった。また、アルトマン氏が関与する仮想通貨とプルーフ・オブ・パーソンフッドを組み合わせたプロジェクト「ワールドコイン」は、シリーズCの資金調達で1億1500万ドルを調達し、3回のラウンドで総額2億4000万ドルに達したことが報道されている。