人工知能の敵とは？　SECCON実行委員の園田道夫教授らが人工知能のセキュリティについて議論 - INTERNET Watch

IT セキュリティ

（情報元のブックマーク数）

メモ

　これらを踏まえ、園田氏が人工知能へのサイバー攻撃にどう対策すればいいかを質問すると、松田氏は「人工知能をどのように実装するかに依存する」としながらも、「例えばディープラーニング（深層学習）のように、人工知能の内部をブラックボックス化するのも1つの考え方」と述べた。

　しかし、松田氏は「ディープラーニングの場合、（人工知能が）学習したパラメーターを見ても意味が分からないかもしれないが、パラメーターをいじることでハッキングできる可能性がある」と指摘。園田氏も「パラメーターを人為的に変え、起こる変化を見て、内部の情報を書き換えるように探っていくことは可能」だとし、「その場合、学習させるためのデータをどうするかが鍵になる」と語った。

　これに関連する話として、大津留氏は、Watsonを活用してサイバー攻撃の判別を支援するプロジェクト「Watson for Cyber Security」に触れた。現在は北米の8大学との共同研究により、Watson for Cyber Securityを訓練している段階だが、大津留氏はそうした訓練が必要な理由として「インターネット上の情報をクローリングし、勝手に判断していくという仕組みも考えられるが、それらが必ずしも正しい情報とは限らない」と述べた。

人工知能の敵とは？ SECCON実行委員の園田道夫教授らが人工知能のセキュリティについて議論 - INTERNET Watch

screenshot