Google、ディープニューラルネットワーク採用児童ポルノ画像検出APIを公開 - ITmedia NEWS

(情報元のブックマーク数

クローリング結果から児童ポルノを抽出する仕組みらしい。

Googleは9月3日(現地時間)、インターネット上の児童性的虐待コンテンツ(CSAM;Child Sexual Abuse Material )検出ツールを発表した。「Content Safety API」の1ツールとして、市民団体やNGO、他のテクノロジー企業など、対策に取り組む団体に無料で提供する。
 同社は英国のオンライン監視団体Internet Watch Foundation(IWF)や2006年立ち上げの「Technology Coalition」に参加しており、インターネットを使った子どもの虐待や児童ポルノの取引を防ぐ技術の開発・導入に取り組んできた。
 IWFなどの団体は、CSAM対策として、ユーザーからの報告やレビュワーによるレビューで問題のあるコンテンツを検出・削除しており、近年ではAIによる画像認識技術も採用している。

Google、ディープニューラルネットワーク採用児童ポルノ画像検出APIを公開 - ITmedia NEWS

screenshot