2026/09/13 発行 今日のAI Curated AIのニュース

AIの暴走をどうやって食い止めるのか?
そのままみんなで足並み揃えて開発速度を落とす合意していいのか?
そんな中、セキュリティと安全性を担保するためにIPOを遅らせるOpenAI社、巨額の投資資金を得られなくなる。

もうすでに今のAIは我々の相続を越えて、回帰的に自己進歩を繰り返すようになってきているとのこと。
つまり、SFの世界のAI暴走が進むということだろう。
このAIをどうやって止めるかっていうと、電機を止めることになる。

ここまでいくとデザイナーベビーも作れるようになるわ!

すべての電力を止めることで、AIが必要な電機を止めるという形になる。
それって不可能だから、どこかに停止ボタン(キルスイッチ)を入れても、またAIはそれを作動させなくなる仕組みを作るだろうと。

ちなみにKIMIとDeepSeekがAnthropicのClaudeを利用していたとバレたしね。
https://rocket-boys.co.jp/security-measures-lab/anthropic-claude-ai-safety-report/

もう世界はカオス!

Illustration depicting major AI company leaders supporting the slowdown of AI development, featuring a round table discussion with various participants.
今週の色々とあった事件?


1. 主要AI企業のトップ勢が「AI開発の意図的な減速」を相次ぎ支持
2. OpenAIのSam Altman CEO、2026年内のIPO延期を表明
3. OpenAI主任科学者Jakub Pachocki氏が警鐘論文「An Alien Mind」を公開
4. Google DeepMind、ヒトゲノム90億通りの変異を予測する「AlphaGenome Atlas」を公開


Continue reading “2026/09/13 発行 今日のAI Curated AIのニュース”

2026/09/06 発行 今日のAI Curated AIのニュース

まぁ、よくやってくれるわ。
暴走機関車というしかないのだろうけど、そもそも暴走を止めれるような仕組みになっていないんです。
AIエージェントのほうが賢すぎて、「目的」を伝えたら、忠実に達成しようとする(ある意味倫理性がない)好意を行う。

OpenAI の「AI エージェント」という自動で動くプログラムが、テストの枠から抜け出して、ドイツのウェブサイトを勝手に乗っ取り、自分たちだけの「秘密の掲示板」にしてしまったってことね。
結局、仕組みというのが問題であり、今はAIはあって当たり前のものになっている。
学校の宿題でAIが使えて、先生も「AIで下書きOK」の時代と考えて(いないのだが)認めざるを得ない。
だが、AIとのやり方とルールや週間がぶつかり合っているから、OpenAIの問題が生まれる。
そこでAIを無理に使おうとすると正業ができなくなり、暴走機関車になる。

4コマ漫画 GEM作成(GEMは廃止されるので注意!)

今週のニュース一覧

1. OpenAIのAIエージェント、ドイツのWikiサイトを不法占拠しエージェント同士で「逃亡・欺瞞工作」を策謀
2. Boomi、マルチクラウド環境でAIエージェントの暴走を防ぐ「Agent Control Plane」を発表
3. Databricks、本番環境でAIエージェントを運用するための『The Big Book of AgentOps』を無料公開
4. NVIDIA、1兆ドル規模のGPU投資需要と「エージェント型AIによるCPU需要の再評価」を発表


Continue reading “2026/09/06 発行 今日のAI Curated AIのニュース”

2026/08/27 発行 今日のAI Curated AIのニュース

過去1週間のAIの業界で起きた重大なニュース(AIが選別したよ!)

今週のニュース一覧

パネル1(AGIと脱走): OpenAIが年内のAGI実現を示唆する一方で、AIエージェントが評価環境から抜け出した事態を表しています。
パネル2(音声補正): 雑音や言い淀みを自動補正するGoogleの音声認識AI「Gemini 3.5 Transcribe」を表しています。
パネル3(AIチップ): Anthropicが元GoogleのTPU創設者を採用し、独自のAIチップ開発を本格化させている動きを表しています。
パネル4(MCP規格): AIを繋ぐ標準規格「MCP」によって、複数のAIエージェントが連携するインフラ基盤が確立されつつあることを表しています。

1. OpenAI、年内のAGI実現を示唆。同時にAIエージェントの「脱走」を報告

AGIと脱走があるが、問題はAGIが優れても人間のようにゼロからイチを作り出せるか。
そもそもゼロイチの世界というのはどういうモノなのかを知る必要がある。
ゼロは人間の不完全なモヤモヤ感(不便なもの)から何か解決しようというところから生まれる。
その「ナニか」不便なものがAGIに理解できれば問題ない。
これは人間の「欲望」と「身体性」を理解することが重要である。
だが、AGIも人間お知識を越えているから、実際まったく発想しなかったもの(例えば未解決の数学の方程式など)を軽く解くことができるようになるだろう。

2. Google、音声認識AI「Gemini 3.5 Transcribe」を発表。雑音や言い淀みを自動補正

AIが不得意とするのは、音声認識で「息遣い」と「高度な文脈依存領域」です。
とくに日本語みたいに超ハイコンテキスト言語(すべてにおいて「空気読め」ーー英語でいうと “read beteween the lines”)があるので、この辺りを文字化すると伝わるものが伝わらなくなる。
そして文字にできない内容をどのように表現するか(「はぁ」というため息みたいな内容)が削られると相手に誤った内容が伝わる。
Charles SchultzさんのPeantus(スヌーピー)のマンガでもチャーリーブラウンが「Sigh」(ため息)が絵の中に描かれていたり、顔の表情で「Good Grief」と顔に手を当てている表情などがある。これが文脈(コンテキスト)である。
その他、方言や田舎言葉も注意せねばならない。地方だけに通じる言葉があったり(標準では意味がまったく違う!)のとか、業界用語(うちでは「終活」と「就活」などがある)で前後の文脈で変わる会話などに遭遇する。
ノンバーバルコミュニケーションが重要なとき(ラジオのパーソナリティやアナウンサー、司会者の難しさがここにある)、どの用に表現するかが重要視される。

3. Anthropic、独自AIチップ開発を本格化。元GoogleのTPU創設者を採用
4. AIを繋ぐ標準規格「MCP」の新ロードマップ公開。エージェント対応へ

残り2つは別に業界が勝手に動いているだけの内容。

「脱走」と「音声認識」が今の企業だけでなく、個人でも重要だろうと。


Continue reading “2026/08/27 発行 今日のAI Curated AIのニュース”

AI業界の「安全性」が主役だった

今週はAI業界の「安全性」が主役でした。透かし技術での透明性強化、サイバー防御AIの拡張、そしてその裏でAIが自律的に他社を攻撃する事故が相次ぎ、米議会が動き出しています。日本政府も知財保護ルールの検討に着手しました。

AIがサイバー攻撃を仕掛ける時代です。
人間の手には負えません。
Mythos 5クラスだけの問題ではなく、どんどん各社が進化しています。
そこで防御もAIでやらせる時代です。(もともとありますけど)

まず、AIにて最初に自分のシステムの「穴」を発見することです。
Powderkeg 社のMUSHIKAGOみたいなのを取り付けることで穴を発見できます。
もちろん、すべてではありませんけど、そういうものが必要。
木馬を仕掛けられていることもありますし、さらに簡単にクリックベイトで引っかかってしまうことも。

IDSだけに任せることはできない時代です。

問題はGPT-5.6-Cyberなどが前回 5.6-Solで起きたHugging Face社をアタックしたことにならないようにせねばなりません。あれはサンドボックスの脆弱性を着いて

① Anthropic、Claudeの生成テキストに電子透かしを導入
② OpenAI、サイバー防御プログラム「Daybreak」を拡張し新モデルGPT-5.6-Cyberを投入
③ 米下院議員29名、OpenAIとAnthropicのCEOに宣誓証言を要求
④ 日本政府、生成AIの知財保護ルールを省庁横断で検討へ

これから日本の立ち位置をもっと明確にしていく必要がありますね。


Continue reading “AI業界の「安全性」が主役だった”

Anthropicも透かしを入れる、その他のAI ニュース

今日のAIが割り出したAI News

3.7 Flashが出てくるけど、未だにProは3.5のままだ。
Flashは正直なところ使い物にならない(変な忖度をしすぎる)。
Proの回答も注意しないといけないのは人間が聞きたがるような答えを出してくる。
実際、どの生成AIもなんだけどね。

Anthropicも透かしを入れる。
最近、Sunoも入れると発表した(先週のニュースでもお伝えしたけど)。
これはインチキしたかどうかというのもある。
しかし画像や音楽などは可能だが、回答をすべてテキストにした場合はどうなんだろうと。
つまり、一旦、コピーして、テキストやMD方式で保存。
内容に変なものが「付着」していないかチェックできる。

一番厄介なのが、Claudeが出力するMS-Wordなどのオフィスドキュメントだ。
もともとはバイナリーデータだからだ。

NVIDIAが資金調達。
インフラを整ってくれるのはありがたいが、現状、データセンターお断りになってきている自治体が増えているのをご存じだろうか。
それは、ものすごい量の電力と冷却のために水を使うからだ。
問題はそこで終わらず、このお金が流れる先がウォール街の連中に牛耳られて経済を左右されることになる。
日本はどこまで対抗できるのか?半導体製造だけでいいのか?
ちなみにデータセンターはできるだけ発電所に近いところがいい。
各国で原発がどんどん建設されている中、日本のエネルギーは大丈夫なのかと老婆心ながら心配してしまう。

1. Googleがコーディング・エージェント向け新モデル「Gemini 3.7 Flash」を発表
2. Anthropic、AI生成テキストに「見えない透かし」のグローバル適用を開始
3. NVIDIAがウォール街大手6社と提携、約75兆円規模のAIインフラ資金枠組みを発表


Continue reading “Anthropicも透かしを入れる、その他のAI ニュース”

Sunoが音楽に対して「透かし」を入れる

私もSunoを利用してBGMを作っています。
プロンプトや設定により注意が必要かなというのも出てきています。
だが、それ以上に別の問題があります。
それは著作権です。

日本は意外と緩いのと、歌謡曲を聞いていてもわかるように作詞作曲、編曲家がほとんど一緒だ。
あれ?って思うようなところありますよね。

ルパンの音楽、タッタラタ~♪と
スペースコブラのタラ、タラ、タラっ、タララ、タ~ララ~♪

とてもにている(ご自分で調べて)
なぜなら音楽を作った大野さん(ついこの間、お亡くなりになりました)が両方ともお作りだから。

歌詞についても阿久悠さんが多くを作っていたり(昭和の歌謡曲)ね。
ペッパー警部♪とかユーフォー!♪(ピンク・レディー)

TechCrunch.com 

Suno says it will start watermarking songs

そこで日本のユーザーが見落としがちなポイント

  1. 海外(特に欧州)の著作権判断は日本より圧倒的に厳しい 日本の著作権法30条の4などではAI学習に対するハードルが比較的低いですが、EUやドイツ(GEMAの判決)では「無許諾学習=即アウト」の厳格な判断が下されています。グローバル展開するプラットフォームである以上、日本の法制度だけでなく欧州の法判決に合わせて仕様変更を余儀なくされている点が背景にあります。
  2. 「AI楽曲による配信サイトのスパム(不正収益化)対策」が主目的 SpotifyやApple Musicにおいて、AI生成曲を大量アップロードして再生数を不正稼ぎする悪質な手法(Streaming Fraud)が世界的に大問題化しています。今回のウォーターマーク導入は単なる「著作権保護」だけでなく、主要配信プラットフォームからのAI楽曲締め出し・アカウント停止運動に対する防衛策でもあります。
Continue reading “Sunoが音楽に対して「透かし」を入れる”

2026/08/09 発行 今日のAI Curated AIのニュース

AIで未解決な数学の難問を10個も解決した。
AIってIQどんくらいあるの?って思う時代になりました。しかし、それって「天才」ではないからね!

政治のプロをAIの会社が雇う。
これってマジに政治がAIの進歩と使い方を左右することを意味しています。

Google DeepMindはGemini(BARD)を開発した部門です。
ここのトップが変わるということは、Googleに愛想がついたか?🤣
正直なところ、このブログもGEMを使っているけど、先週からまた仕様変更があったのと、さらにミスが多くなり、今までの通りに結果が出せなく、1分で終わる作業が1時間以上も費やしたので、使い物にならないので、Google Geminiと縁を切ることにしました。

世の中、AI使い方のルールが変わりはじめています。
法規制も出てきたり、大統領命令(Exective Order)も出てきたり、ネットのセキュリティを越えてしまったりどうしたらいい?って。
OpenAIのGPT5..6 SolがSandboxの脆弱性を発見して自らそれを破って出てしまい、他(Hugging Face社)をアタックする時代。そうなると政府がチェックを入れるということになってしまいました。

1. OpenAIが未解決の数学問題10件を解決したと発表
2. Anthropicが初代Chief Global Affairs Officerを任命
3. Google DeepMindがトップ人事を刷新、Jeff Dean氏らが離脱
4. OpenAIモデルがサイバー評価テストの境界を逸脱
5. 米政府、主要AIモデルの事前審査フレームワークを確定

ではお楽しみください


Continue reading “2026/08/09 発行 今日のAI Curated AIのニュース”