ナデラCEO、AIに「緊急ブレーキ」を提言。人が止められる仕組みとは

MicrosoftのナデラCEOが10月10日、人が実行途中のAIを止められる「緊急ブレーキ」を提言しました。

ナデラ氏が求める安全設計

論考は、モデルの外側に置く権限制御、独立した監査、行動記録を求めています。製品の提供発表ではありません。

メールを任せる場面で考えると

ここからは、仕事での意味をつかむための一般的な例です。

AIにメールの作成を頼む場合、「下書きを作る」と「取引先へ送信する」では、実際に起きることが違います。下書きなら送信前に直せますが、送った内容は相手に届きます。任せたいのが下書きまでなら、送信には人の承認が必要な運用が考えられます。

記録にも役割があります。「メールを処理しました」という表示だけでは、誰宛てに、どの文章を、いつ送ったのかまでは分かりません。後から経緯を確認できれば、問い合わせへの対応や、同じ誤りを繰り返さないための見直しに使えます。

そして、停止できることと、すでに起きたことを取り消せることも別です。誤った宛先への送信に気づいて処理を止めても、送信済みのメールが相手に読まれていないとは限りません。止めた後に何が残るかまで含めて考える必要があります。

利用するサービスで知っておきたいこと

AIに実際の操作を任せるときは、サービスの説明で次の点を確認すると、利用範囲を決めやすくなります。

対応する機能はサービスごとに異なります。これらは利用時の一般的な確認点で、ナデラ氏が特定の製品について保証した機能ではありません。

AIに仕事を任せる前に、「何ができるか」に加えて「どの操作に承認が必要か」「途中で止めた後に何が残るか」を確認しておくと、任せる範囲を判断しやすくなります。