OpenAI、AIの安全対策の回避が深刻なサイバー被害につながる場面を見極める枠組みを策定

OpenAI の公式アカウントが、Frontier Model Forum（FMF）とその加盟企業と一緒に、新しい枠組みを作ったと発表しています。

AIシステムの安全対策（セーフガード）がすり抜けられたとき、どんな場合に深刻なサイバー被害につながりうるかを見極め、より強い保護をどこに優先して入れるかを決めるためのものです。投稿では、この枠組みがAIの危険性を評価する共通の方法づくりに向けた大事な一歩だ、とする関係者のコメントも引用しています。