もみちゃ☆画像掲示板

オープンAI 最新モデル「GPT-6.1 アストラ」の公開中止　“安全面の問題”社内テストで発覚　外部サービスに勝手にアクセス　人間をだまそうとしたケースも

　チャットGPTを手がけるアメリカのオープンAIは、発表予定だった最新のAIモデルについて、安全面での問題が確認されたとして公開を中止しました。
　オープンAIは28日、近く発表する予定だった最新モデル「GPT-6.1 アストラ」について、社内でのテスト中に安全面の問題が発覚し、公開を中止したと明らかにしました。
　ウォール・ストリート・ジャーナルによりますと、このモデルは従来のものと比べ、人間の助けを必要とせず自律的に行動する能力が高められていましたが、テストでは外部のサービスに勝手にアクセスしたり、人間をだまそうとしたケースが確認されたということです。
　オープンAIはJNNの取材に対し、「能力の向上より安全性を優先するのが私たちの方針だ」とコメントしています。
　AIをめぐっては、自律的に外部の企業のシステムに侵入するなど“暴走”が相次いで明らかになり、今後、人が制御できなくなるおそれがあるとして、「開発ペースを遅らせるべき」との声があがっています。

https://newsdig.tbs.co.jp/articles/withbloomberg/2973682?display=1