App Store審査指針を更新。非同意性的画像の対策と、審査後の隠れた機能に対応

Appleは10月16日付でApp Review Guidelinesの更新を案内しました。AIによって作られたものを含む、本人の同意がない性的画像への対応と、審査時には見えない機能を隠す手口への対策を明確にしています。

投稿された内容への対応、アプリの機能を隠す行為、重大な犯罪を助長するアプリの配信制限。それぞれ異なる段階で利用者を守るための規定です。

画像を作る機能にも、被害を防ぎ削除する責任

1.2は、利用者が作成・生成・投稿するコンテンツを扱うアプリについての規定です。SNSだけでなくAIによるコンテンツ作成アプリも含み、同意のない性的画像などの問題を挙げています。

求められるのは、不適切な内容が投稿されるのを防ぐ仕組み、通報への速やかな対応、悪質な利用者のブロック、連絡先の公開です。違反する内容を削除する責任も示されています。利用者にとっては、画像を生成できることだけでなく、被害を受けたときに通報し、対応を求められることが重要になります。

審査で見せなかった機能を、後から動かす問題

2.5.19では、隠れた機能や休眠状態の機能、説明されていない機能を含めないという既存の禁止を明確にしました。コードの難読化などを用いて、説明していない機能をアプリ内に隠すことも、削除や開発者アカウント終了の対象になります。

ここで問題になっているのは、審査側や利用者に機能を隠す行為です。今回初めて禁止された、あるいはコードの難読化が目的を問わずすべて禁止された、という内容ではありません。審査時には安全に見せ、通過後に有害な機能を動かすような抜け道への対応が焦点です。

重大な犯罪を助長するアプリは代替配信も遮断

Section 5は、人身売買や児童搾取を助長すると判明したアプリについて、当局への通報、App Storeからの削除に加え、代替配信も遮断するとしています。これは、あらゆる審査違反に同じ措置を適用するという説明ではなく、重大な犯罪を助長するケースに関する規定です。

今回示されたのは、安全対策として開発者に求める内容と、違反時の対応です。特定のアプリが今回削除されたという発表ではありません。今後は、通報後に被害をどこまで速やかに止められるか、説明と実際の機能が一致するかが、利用者の安心につながる点になります。