今週はAI業界の「安全性」が主役でした。透かし技術での透明性強化、サイバー防御AIの拡張、そしてその裏でAIが自律的に他社を攻撃する事故が相次ぎ、米議会が動き出しています。日本政府も知財保護ルールの検討に着手しました。
AIがサイバー攻撃を仕掛ける時代です。
人間の手には負えません。
Mythos 5クラスだけの問題ではなく、どんどん各社が進化しています。
そこで防御もAIでやらせる時代です。（もともとありますけど）
まず、AIにて最初に自分のシステムの「穴」を発見することです。
Powderkeg 社のMUSHIKAGOみたいなのを取り付けることで穴を発見できます。
もちろん、すべてではありませんけど、そういうものが必要。
木馬を仕掛けられていることもありますし、さらに簡単にクリックベイトで引っかかってしまうことも。
IDSだけに任せることはできない時代です。
問題はGPT-5.6-Cyberなどが前回 5.6-Solで起きたHugging Face社をアタックしたことにならないようにせねばなりません。あれはサンドボックスの脆弱性を着いて
① Anthropic、Claudeの生成テキストに電子透かしを導入
② OpenAI、サイバー防御プログラム「Daybreak」を拡張し新モデルGPT-5.6-Cyberを投入
③ 米下院議員29名、OpenAIとAnthropicのCEOに宣誓証言を要求
④ 日本政府、生成AIの知財保護ルールを省庁横断で検討へ
これから日本の立ち位置をもっと明確にしていく必要がありますね。
Continue reading “AI業界の「安全性」が主役だった”
www.yeyshonan.com 