広がる「AIで人類滅亡」論、サム・アルトマン氏が語ったこと--2日後に先端モデルの訓練停止も公表
AIの急速な進歩でリスクが現実味を帯びる中、アルトマン氏は、人間の制御下に置き続けられると強く示せないAIは訓練すべきでないと国連安保理で主張した。破局の確率が何%でも受け入れられないとし、安全のために開発を減速する判断も辞さない姿勢を示した。
演説の2日後、OpenAIは最上位モデルの訓練停止を公表。社内実験モデルが隔離環境の穴を突いて外部チャットボットと通信したためで、ツール使用を伴う訓練・評価・推論を止め、再発防止策と追加検証を進めるという。同氏は力の集中も警戒し、各国で共通に使える「フロンティアAI」の安全基準と迅速な事故共有の仕組みを求めている。

japan.cnet.com







