イーサリアム創設者、AI開発の停止策「ソフトポーズ」を提案

イーサリアムの共同創設者であるヴィタリック・ブテリン氏は5日、急速に進化する人工知能(AI)がもたらす潜在的なリスクに対応するため、計算能力の「ソフトポーズ」を提案した

この提案は、超知能AIによるリスクを軽減し、人類が適切な準備を整えるための猶予を確保する最後の手段として議論されている。

ブテリン氏は、AI開発の暴走を防ぐため、最大1~2年間、世界的な計算リソースを90~99%削減する可能性に言及した。この提案は、より穏やかな規制手段が機能しなかった場合に実施されるべきだと強調する。

「ソフトポーズ」の背景:AI開発に対する懸念が高まる中での提案

ブテリン氏はブログ記事の中で、超知能AIが登場する前に人類が準備する時間を確保する必要性を強調した。計算リソースの制限が一時的な「戦時体制」と同様の成果をもたらす可能性があると述べた。

人類が適切に備える時間を確保するためには、世界の計算リソースを90~99%削減できる能力を持つことが重要だ。1~2年の取り組みが通常の100年分の作業に相当すると指摘する。

この提案は、AIの急速な発展に対する技術コミュニティの懸念が高まる中で発表された。2023年5月には、技術専門家や研究者が科学誌『Science』に公開書簡を掲載し、AI開発の停止を求めた。

この書簡では、「大規模な社会的被害、悪意ある使用、そして人類が自律型AIシステムを制御できなくなるリスク」が警告されている。

Autonomysのトッド・ルオフCEOは、The Defiantの取材に対し、ブテリン氏の提案はAI開発のリスクを適切に認識したものだと評価した。

ヴィタリックの提案内容|計算リソースの削減と監視体制の強化

ブテリン氏は、「ソフトポーズ」の実施方法として、産業規模のAIハードウェアに「信頼できるチップ」を搭載し、主要な国際機関(少なくとも非軍事関連の機関1つを含む)による週次の承認を必要とする仕組みを提案している。

この仕組みにより、AIシステムが適切な監視の下でのみ運用され、潜在的なリスクを軽減できると説明する。

署名はデバイスに依存しない形で行われる。必要であればブロックチェーンに公開したゼロ知識証明で確認することも可能だ。そのため、すべてのデバイスを一括で承認するか、全く承認しないかの二択しかない。

ブテリン氏は、超知能AIの登場が5年以内かもしれないし、50年かかる可能性もあると指摘した。

この提案を受け、

技術業界では、AI技術の開発における倫理的課題や安全対策の必要性についての議論が再燃している。一方、暗号資産(仮想通貨)市場では、AI技術を活用したミームコインプロジェクトが登場し、新たな注目を集めている。

さらに、メタバースとの連携を視野に入れたAI活用プロジェクトも増加しており、AI・仮想通貨・メタバースの三位一体の発展が次世代のデジタル経済を形成する可能性がある。AIと仮想通貨の融合は、新たな市場トレンドとして今後ますます拡大することが予想される。

この記事についてのご意見をお聞かせください!

この文章は役に立ちましたか?

最近の投稿