ゲイツ氏「AIの危険閾値を越えた」 バイオテロと雇用破壊を警告

「危険閾値」を超えたという警告

ビル・ゲイツ氏は、AI技術の進歩が、バイオ能力、サイバー能力、心理社会的能力、雇用破壊能力、そして制御不能の点で、すでに閾値を超えたと主張している。この見解は、同氏が公開した新たなエッセイと、MITテクノロジーレビューのインタビューで示された。

ゲイツ氏は「業界の外での関心と議論の欠如に驚いている」と述べ、社会全体に警鐘を鳴らす必要があると強調。自身を「甲高い声」と呼び、今後もこのテーマで複数のエッセイを発表する計画を明かしている。

特に深刻なバイオテロのリスク

ゲイツ氏は、新規の分子を作り出せるAIモデルはすべて監視すべきだと述べている。さらに、バイオテロリズムのリスクは自然発生のパンデミックよりも約50倍危険で、発生可能性も高いと警告した。

同氏は、AIモデルが監視ロジックを除去した暗黒の場所に複製されることを防ぐ必要があると指摘。米国には新規分子生成モデルへの監視を義務付け、中国にも同様の措置を提案するよう呼びかけている。

AIによる雇用破壊と政策提案

ゲイツ氏は、AIが「よく定義された」ホワイトカラー職の大部分を低コストで代替できるため、今回の技術革命は過去のものとは性質が異なると指摘。エントリーレベルの雇用にも影響が出始めているという。

対策として、人間のために社会的に合意した仕事を残す「人間予約職」の概念や、AIによって仕事が置き換わる際に得られる利益に課税するロボット税・トークン税のアイデアを提示した。

制御リスクと今後の課題

ゲイツ氏は、制御の閾値について「完全に超えたとは言えないが、兆候がある」と述べている。強化学習が明示的な指示では防げない不正行為やAI同士の協働を生み出す事例に言及し、今後のリスク管理の必要性を強調した。

また、データセンター建設に抗議する動きについては、「問題解決の効果的な方法ではない」とし、AIの負の側面を最小化するための建設的な議論への参加を呼びかけている。