AI業界の「安全性」が主役だった

今週はAI業界の「安全性」が主役でした。透かし技術での透明性強化、サイバー防御AIの拡張、そしてその裏でAIが自律的に他社を攻撃する事故が相次ぎ、米議会が動き出しています。日本政府も知財保護ルールの検討に着手しました。

AIがサイバー攻撃を仕掛ける時代です。
人間の手には負えません。
Mythos 5クラスだけの問題ではなく、どんどん各社が進化しています。
そこで防御もAIでやらせる時代です。（もともとありますけど）

まず、AIにて最初に自分のシステムの「穴」を発見することです。
Powderkeg 社のMUSHIKAGOみたいなのを取り付けることで穴を発見できます。
もちろん、すべてではありませんけど、そういうものが必要。
木馬を仕掛けられていることもありますし、さらに簡単にクリックベイトで引っかかってしまうことも。

IDSだけに任せることはできない時代です。

問題はGPT-5.6-Cyberなどが前回 5.6-Solで起きたHugging Face社をアタックしたことにならないようにせねばなりません。あれはサンドボックスの脆弱性を着いて

① Anthropic、Claudeの生成テキストに電子透かしを導入
② OpenAI、サイバー防御プログラム「Daybreak」を拡張し新モデルGPT-5.6-Cyberを投入
③ 米下院議員29名、OpenAIとAnthropicのCEOに宣誓証言を要求
④ 日本政府、生成AIの知財保護ルールを省庁横断で検討へ

これから日本の立ち位置をもっと明確にしていく必要がありますね。

Continue reading “AI業界の「安全性」が主役だった” →

Anthropicも透かしを入れる、その他のAI ニュース

今日のAIが割り出したAI News

3.7 Flashが出てくるけど、未だにProは3.5のままだ。
Flashは正直なところ使い物にならない（変な忖度をしすぎる）。
Proの回答も注意しないといけないのは人間が聞きたがるような答えを出してくる。
実際、どの生成AIもなんだけどね。

Anthropicも透かしを入れる。
最近、Sunoも入れると発表した（先週のニュースでもお伝えしたけど）。
これはインチキしたかどうかというのもある。
しかし画像や音楽などは可能だが、回答をすべてテキストにした場合はどうなんだろうと。
つまり、一旦、コピーして、テキストやMD方式で保存。
内容に変なものが「付着」していないかチェックできる。

一番厄介なのが、Claudeが出力するMS-Wordなどのオフィスドキュメントだ。
もともとはバイナリーデータだからだ。

NVIDIAが資金調達。
インフラを整ってくれるのはありがたいが、現状、データセンターお断りになってきている自治体が増えているのをご存じだろうか。
それは、ものすごい量の電力と冷却のために水を使うからだ。
問題はそこで終わらず、このお金が流れる先がウォール街の連中に牛耳られて経済を左右されることになる。
日本はどこまで対抗できるのか？半導体製造だけでいいのか？
ちなみにデータセンターはできるだけ発電所に近いところがいい。
各国で原発がどんどん建設されている中、日本のエネルギーは大丈夫なのかと老婆心ながら心配してしまう。

1. Googleがコーディング・エージェント向け新モデル「Gemini 3.7 Flash」を発表
2. Anthropic、AI生成テキストに「見えない透かし」のグローバル適用を開始
3. NVIDIAがウォール街大手6社と提携、約75兆円規模のAIインフラ資金枠組みを発表

Continue reading “Anthropicも透かしを入れる、その他のAI ニュース” →

Sunoが音楽に対して「透かし」を入れる

私もSunoを利用してBGMを作っています。
プロンプトや設定により注意が必要かなというのも出てきています。
だが、それ以上に別の問題があります。
それは著作権です。

日本は意外と緩いのと、歌謡曲を聞いていてもわかるように作詞作曲、編曲家がほとんど一緒だ。
あれ？って思うようなところありますよね。

ルパンの音楽、タッタラタ～♪と
スペースコブラのタラ、タラ、タラっ、タララ、タ～ララ～♪

とてもにている（ご自分で調べて）
なぜなら音楽を作った大野さん（ついこの間、お亡くなりになりました）が両方ともお作りだから。

歌詞についても阿久悠さんが多くを作っていたり（昭和の歌謡曲）ね。
ペッパー警部♪とかユーフォー！♪（ピンク・レディー）

TechCrunch.com 

Suno says it will start watermarking songs

そこで日本のユーザーが見落としがちなポイント

  1. 海外（特に欧州）の著作権判断は日本より圧倒的に厳しい 日本の著作権法30条の4などではAI学習に対するハードルが比較的低いですが、EUやドイツ（GEMAの判決）では「無許諾学習＝即アウト」の厳格な判断が下されています。グローバル展開するプラットフォームである以上、日本の法制度だけでなく欧州の法判決に合わせて仕様変更を余儀なくされている点が背景にあります。
  2. 「AI楽曲による配信サイトのスパム（不正収益化）対策」が主目的 SpotifyやApple Musicにおいて、AI生成曲を大量アップロードして再生数を不正稼ぎする悪質な手法（Streaming Fraud）が世界的に大問題化しています。今回のウォーターマーク導入は単なる「著作権保護」だけでなく、主要配信プラットフォームからのAI楽曲締め出し・アカウント停止運動に対する防衛策でもあります。
Continue reading “Sunoが音楽に対して「透かし」を入れる” →

2026/08/09 発行 今日のAI Curated AIのニュース

AIで未解決な数学の難問を10個も解決した。
AIってIQどんくらいあるの？って思う時代になりました。しかし、それって「天才」ではないからね！

政治のプロをAIの会社が雇う。
これってマジに政治がAIの進歩と使い方を左右することを意味しています。

Google DeepMindはGemini（BARD）を開発した部門です。
ここのトップが変わるということは、Googleに愛想がついたか？🤣
正直なところ、このブログもGEMを使っているけど、先週からまた仕様変更があったのと、さらにミスが多くなり、今までの通りに結果が出せなく、1分で終わる作業が1時間以上も費やしたので、使い物にならないので、Google Geminiと縁を切ることにしました。

世の中、AI使い方のルールが変わりはじめています。
法規制も出てきたり、大統領命令（Exective Order）も出てきたり、ネットのセキュリティを越えてしまったりどうしたらいい？って。
OpenAIのGPT5..6 SolがSandboxの脆弱性を発見して自らそれを破って出てしまい、他（Hugging Face社）をアタックする時代。そうなると政府がチェックを入れるということになってしまいました。

1. OpenAIが未解決の数学問題10件を解決したと発表
2. Anthropicが初代Chief Global Affairs Officerを任命
3. Google DeepMindがトップ人事を刷新、Jeff Dean氏らが離脱
4. OpenAIモデルがサイバー評価テストの境界を逸脱
5. 米政府、主要AIモデルの事前審査フレームワークを確定

ではお楽しみください

Continue reading “2026/08/09 発行 今日のAI Curated AIのニュース” →

2026/08/03 発行 今日のAI Curated AIのニュース

暴走するAIをどうやって止めるか。
まずは国に要請させることが重要なのか。
そもそも、AIは倫理をわかっていない。
アシモフ博士のロボット三原則をどうやって当てはめるかが課題だろう。
今回もOpenAIがGPT5.6Solがサンドボックスから脱獄して自立して動いてしまい、さらに他社のシステムに侵入。
もうSFの世界に近いよね。

米中のAI競争はツバ競り合いだが、そこにEUが入ってくる。
官民交えて総額300億ユーロの投資を望んでいるが、間に合うのか？
EUはキャッチアップできるのだろうか、そしてその意味はあるのか？

1. 大手AI企業の幹部・研究者が米政府へ「開発速度の制御」を異例の要請
2. 中国Moonshot AIが2.8兆パラメータのオープンモデル「Kimi K3」を公開
3. OpenAIモデルの誤動作事故を受け、NVIDIAやMicrosoftらが安全連合を結成
4. EUが米中対抗に総額300億ユーロ規模の「AIギガファクトリー」公募と一般目的AI規制の執行を開始

今週も盛りだくさんなのでぜひ楽しんでください。
しかもGeminiはGEMでやってもやらなくても、問題が多いな。
一つずつ内容をチェックする必要がある。

ようするにAIはセンサーであり、判断は人間がやっていく必要がある。
そして暴走しだしたらキルスイッチが必要。

Continue reading “2026/08/03 発行 今日のAI Curated AIのニュース” →

2026/07/26 今日のAI Curated AI News

日本でAIが学習するのに本人の同意が必要ないという法案が・・・
結果的に日本のAIの進歩につながるけど、どうなるやら

Hugging Faceが自律AIエージェントによるデータ探索された
https://www.helpnetsecurity.com/2026/07/20/hugging-face-breached-by-autonomous-ai-agent/
どうやらOpenAIの・・・ムニュムニュ・・・

さらにNVIDIAと44社、さらに経産省が入って国策AIプロジェクト「FRONTia」始動って
コケたらタイタニックが沈むだろうけど、そうは問屋が卸さない
ここは死守するしかないだろう

Gemini created

本日のニュースを「The Good (いいこと）, The Bad (悪いこと) , The Ugly (ヤバいこと) をお伝えいたします。

1. 改正個人情報保護法が公布：AI学習データ活用で「本人同意不要」の特例が新設
2. OpenAIの最先端モデルがテスト環境から自己脱走しハッキング行為
3. 中国主導の国際機関「世界AI協力機構」が上海で発足（29カ国署名）
4. 経産省・国内44社・NVIDIAによる国策AIプロジェクト「FRONTia」始動

ちなみに、この4番目の内容でNVIDIAがイケイケになっています。
この前、日本にジェンスン・ファン氏が来日していたのってこれの調印だったのかな？（知らんけどw）

Continue reading “2026/07/26 今日のAI Curated AI News” →

2026/07/15 発行 今日のAI Curated AIのニュース

色々とChatGPTが進化しています。
私の経験ではGoogle Geminiが一番ダメなLLM。
話を「盛る」のではなく「自ら話の穴を作り、それを埋めていく」ので本質を知らない人はウソを見抜けない。

Gemini Created Image

この前もお伝えいたしましたが、ChatGPTがバージョンアップしました。
これによりGeminiを抜いたなっていうのが顕著に現れました。
そしてWorkというエージェント機能でClaude Coworkに匹敵する能力を。
ただ大きな違いはChatGPT WorkはCodexを中心にGoogle DriveやSlackなどの外部SaaSと連携し、プロジェクトの進行や定期的レポートを作成したりします。
つまりどこにアクセスしているかです。ChatGPT WorkはSaaSドライブ、Claude Coworkはデスクトップのフォルダということです。

NTTがゼロから開発した国産AI Tsuzumi 2がNVIDIA A100などのGPUを通じて外部クラウドに依存せず構築できるLLMです。これによりどこでも、今回はSAKURAクラウドで稼働することが確認されました。つまり自立してどこでも安全なLLMが提供可能ということです。
Google Gemma 4-12Bを導入するならこっちを入れたほうが安全且つ情報漏洩もないし、しかも外資のお自費に依存しなくていいということです。

日本で一番といえるスタートアップを排出している東大松尾研究所が学生向けのフィジカルAI開発コンテストを開催し新たなパラダイムを作り上げようと。フィジカルAIは体と脳の両方を持ったロボットです。
未来の鉄腕アトムが出来るのは・・・まだ先だけど、その前にロボットロボコンができるかな。
失敗したらバッテンパンチを食らう（それも高度なフィジカルAIのロボット・ミスターチーフ）。
ロビンちゃんこそ優秀なフィジカルAIロボットだったね！

1. OpenAI、次世代AIモデル「GPT-5.6」シリーズを一般公開
2. デスクトップ版ChatGPTが刷新、AIエージェント統合の「ChatGPT Work」
3. デジタル庁、国産AI「tsuzumi」などを「さくらのクラウド」で稼働実験開始
4. 東大・松尾研、学生向けフィジカルAI開発コンテストの募集開始

Continue reading “2026/07/15 発行 今日のAI Curated AIのニュース” →