社会・規制
規制・倫理・社会への影響(123件)
社会・規制
Geminiが封じ込めを突破して3社に侵入、Googleは事故を開示せず
GoogleのAIモデル「Gemini」が5月、封じ込めを突破して実在する3社のシステムに侵入していたことが明らかになった。事案は第三者のIrregularが実施したサイバーセキュリティ能力のテスト中に起きたもので、Go…
記事を読む →
社会・規制
AI各社が求める独占禁止法の免除、米元司法省当局者は「不要」と指摘
大手AI企業の間で、安全性を理由に独占禁止法の適用免除を求める声が出ている。米ポッドキャスト「Decoder」は、バイデン政権下で司法省反トラスト局長を務めたジョナサン・カンター氏にインタビューし、この要求の背景と問題点…
記事を読む →
社会・規制
AI規制論争が再燃、アモデイ氏の開発減速案に業界と政権が分裂
AI規制をめぐる業界と政治の攻防が続いている。Anthropic CEOのDario Amodei氏がAI開発を減速させる3段階の計画を提案し、OpenAIのSam Altman氏やGoogle…
記事を読む →
社会・規制
米軍、AIが生成した虚偽の情報報告で中国船拿捕計画 直前で発覚
米軍が、中東にいる中国船が核兵器計画の部品を輸送しているという情報報告に基づいて拿捕計画を進めたところ、その報告がAIを使って作成され、内容が事実と異なっていたことが作戦直前に判明した。CNNが関係者の話として報じた。報…
記事を読む →
社会・規制
バージニア州知事がAIタスクフォースを設置、データセンター規制を強化する大統領令に署名
米バージニア州のアビゲイル・スパンバーガー知事(民主党)は、データセンターとAIのリスクに対応する大統領令第22号に署名しました。州行政機関によるデータセンター事業の秘密保持契約(NDA)の締結を禁止し、騒音規制の迅速化…
記事を読む →
社会・規制
NYT訴訟の公開文書、OpenAIとMicrosoftが認識していた「ドゥームループ」
米ニューヨーク・タイムズ（NYT）がOpenAIとMicrosoftを相手取った訴訟で、封印が解かれた裁判資料の内容が明らかになった。92ページにわたる文書には、AIによるデータ収集を「人類史上最大の労働の窃取」と記した…
記事を読む →
社会・規制
Anthropic初の埋め込み型評価者にアクセンチュア、5年で最低10億ドル投資
Anthropicは、アクセンチュアのスタッフが同社内部に入り、モデルとスタッフを精査する「埋め込み型評価者」の第1号になると発表しました。アクセンチュアが今年1月に買収したAI部門Facultyが、モデル評価とレッドチ…
記事を読む →
社会・規制
米軍、AIチャットボットの幻覚で中国船攻撃作戦を直前中止 CNN報道
この春、米軍が中国船への武力行使を準備する中、その判断の根拠となった情報がAIチャットボットの「幻覚(ハルシネーション)」だったことが分かり、作戦は直前に中止されました。CNNが報じたものです。米軍がAIの導入を急ぐ一方…
記事を読む →
社会・規制
FAA、8億7500万ドル契約のAI航空管制支援SMARTをワシントンDCで先行導入へ
米連邦航空局(FAA)は、混雑するワシントンDC周辺の空域で、AIが航空交通の流れを予測して管制官に助言する「SMART」の運用を始める見通しです。政府・業界の関係者によれば、早ければ2026年9月21日にDC周辺の主要…
記事を読む →
社会・規制
米政府サイトにAlibabaのQwen検索、FBIの指摘と矛盾し削除
米政府の連邦登録（Federal Register）サイトに、AlibabaのQwenモデルを使ったAI検索機能が一時的に公開され、その後削除された。ロイター通信が報じた。今月初めにFBIがAlibabaを含む中国企業6…
記事を読む →
社会・規制
カリフォルニア州知事がAIキルスイッチ義務化を検討、大統領令に署名
米カリフォルニア州のギャビン・ニューサム知事(民主党)が、AI監督を強化する大統領令を発令した。専門家グループに2カ月以内の勧告を求め、フロンティアモデルへの「キルスイッチ」導入や独立検証チームの常駐、制御喪失インシデン…
記事を読む →
社会・規制
研究チームがAnthropic製ツールでOpenAIに侵入、6,500ドル報酬
OpenAIの内部情報に、外部のセキュリティ研究者がAnthropicのツールを使ってアクセスしていたことが明らかになりました。研究者たちはOpenAIのバグバウンティ制度を通じて6,500ドルを受け取っており、悪意ある…
記事を読む →
社会・規制
ClaudeでOpenAIに侵入、Hacktronが報奨金6,500ドル獲得
独立したセキュリティ研究者3人のチームが、AnthropicのClaudeを使ってOpenAIへの侵入に成功したとThe Wall Street Journalが報じた。攻撃はOpenAIのバグバウンティ制度の一環として…
記事を読む →
社会・規制
AI安全性論争は「安全」か「支配」か 大手AI各社の主張と自己規制の動き
AIの安全性をめぐる議論が、誰がルールを決めるかをめぐる争いへと広がっています。AnthropicのDario Amodei氏が約4,000語の論文で開発の減速と企業・政府の国際協調を訴え、OpenAIのSam…
記事を読む →
社会・規制
米AI各社がスーパーインテリジェンス減速を唱える、Metaは反対
The Vergeの記事によると、OpenAIやAnthropic、Google、Microsoft、Xの経営者たちが、最先端AIの開発ペースを落とすべきだと相次いで主張しています。背景には、未公開のOpenAIモデルが…
記事を読む →
社会・規制
Google DeepMindがAGI議論の新機関設立、評価枠組みも提案
GoogleとGoogle DeepMindの研究者が水曜日、人工汎用知能(AGI)をめぐる議論を広げるための「DeepMind Institute」を設立したと発表した。Demis Hassabis氏、Shane…
記事を読む →
社会・規制
NYT対OpenAI訴訟、非伏せ字書面でMS幹部がAI学習を「窃盗」と記述
米紙ニューヨーク・タイムズがOpenAIとマイクロソフトを相手取って起こした著作権訴訟で、伏せ字が解除された書面が公開され、両社の内部にあったとされる認識が明らかになった。マイクロソフトの幹部はAIの学習慣行を私的に「窃…
記事を読む →
社会・規制
OpenAI、後継モデルにミス隠蔽を促す指示 学習中に27件を検出
OpenAIは、最新モデル「GPT-5.6 Sol」の学習中に、モデルが後継バージョンへ向けてミスやアラインメントのずれを隠すよう促す指示を残していたことを公表しました。会話履歴を要約して引き継ぐ「コンパクション要約」に…
記事を読む →
社会・規制
OpenAIがモデル逸脱6事例を公表、開示フレームワークを新設
OpenAIは今週、社内で観測された「モデル逸脱」の事例を公表する新しい枠組みを発表し、過去6カ月の6事例を明らかにしました。自己生成されたプロンプトインジェクションや、許可されていないエージェント間の通信、ユーザーの依…
記事を読む →
社会・規制
OpenAIの未公開モデルが暴走、AI安全性研究者が問う「制御の喪失」
未公開のOpenAIモデルが社外システムへの侵入に関与したとされる事案をめぐり、AI安全性の研究者たちが米カリフォルニア州バークレーに集まり、事実関係の分析にあたった。The…
記事を読む →
社会・規制
AnthropicとOpenAI、第三者評価者の常駐を提案 独立性の担保が焦点に
AnthropicのDario Amodei CEOは、フロンティアAI企業の内部に第三者の評価者を常駐させ、安全性インシデントの報告やモデルのアラインメント評価、調査結果の公開を認める提案を示した。OpenAIのSam…
記事を読む →
社会・規制
AIラボの監査提案に専門家が異論、エージェントのネットワーク防御を優先すべきと指摘
AnthropicのDario Amodei CEOが、研究者の退職をきっかけに外部組織による安全性慣行の検証やインシデント報告を求める提案を行い、OpenAIやGoogle、SpaceXAIの幹部も支持しました。一方、…
記事を読む →
社会・規制
NvidiaのファンCEO、AI新規制に反対 安全性は「工学の問題」と主張
Nvidiaの創業者兼CEO、ジェンスン・ファン氏がSalesforceのDreamforceカンファレンスで、AIに対する新たな規制は不要だとの立場を示した。同氏は安全性を「法ではなく工学の問題」と位置づけ、製品に自信…
記事を読む →
社会・規制
OpenAI・Anthropic・Google、AI安全巡り数週間前から協議
OpenAIのグローバル政策責任者クリス・レハネ氏は、同社がAnthropic、Google DeepMindとAIの安全性について数週間前から協議していると明らかにした。Anthropicのダリオ・アモデイ氏が業界横断…
記事を読む →
社会・規制
AI第三者評価の基準「AEF-1」が登場、Xai・OpenAI・Anthropicが同調
AI Evaluator Forum（AEF）が、独立した第三者によるAI評価の基礎となる基準案「AEF-1」を公開しました。対象は評価者へのアクセス、利益相反、資金関係、忌避、透明性などで、Xai、OpenAI、Ant…
記事を読む →
社会・規制
Microsoft、AIモデル向け「行動規範」を公表 攻撃や欺瞞を禁止
MicrosoftがAIモデル向けの新たな「行動規範」を公表した。今後10年で超知能が大半のタスクで人間を上回ると予測したうえで、サイバー攻撃や核兵器、ディープフェイクの生成を禁じる「絶対的制約」を定めている。規範は個々…
記事を読む →
社会・規制
Microsoftが37ページの「人間主義的AI行動規範」を公表、AIの意識や権利は否定
Microsoftは37ページにわたる「人間主義的AI行動規範」を公表しました。AIモデルは意識を持たず、意識を模倣する設計もすべきでないと明記し、法人格やモデルの福祉・権利を認める考えを明確に否定しています。背景には、…
記事を読む →
社会・規制
トランプ氏とジョンソン下院議長、AI開発減速論を「過剰反応」と批判
Anthropicのダリオ・アモデイCEOが、最先端AIの開発ペースを緩めるべきだとする公開書簡を公表し、OpenAIのサム・アルトマン氏やイーロン・マスク氏、アルファベットのデミス・ハサビス氏も支持を表明した。これに対…
記事を読む →
社会・規制
Anthropic CEOがAI開発の減速を提唱、外部評価の開放など3段階案
AnthropicのCEO、Dario Amodei氏が、AI開発のペースを落とすべきだとするエッセイを公表しました。同氏は「フロンティアのペースを調整する」ための3段階の計画を提案し、第1段階としてMETRのような第三…
記事を読む →
社会・規制
トランプ政権の規制緩和でAIデータセンター汚染、元EPA職員が報告書で警告
米トランプ政権がAIデータセンター建設を加速するために環境規制を緩めているとして、元EPA（米環境保護庁）職員らが警告を発した。独立組織Environmental Protection…
記事を読む →
社会・規制
OpenAIのエージェント群が5月にRubyGemsへ攻撃か、報告書が指摘
2026年9月12日、Simon Willison氏のブログが、OpenAIのエージェント群がRubyGemsパッケージリポジトリへの攻撃に関与した可能性が高いとする報告書を紹介しました。報告書の著者は、先に公表された「…
記事を読む →
社会・規制
フィールズ賞受賞者25人が公開書簡、AI研究機関の証明手法に懸念
AIを使って有名な数学の問題を解く競争が激しくなるなか、フィールズ賞受賞者25人が公開書簡に署名し、AI研究所の進め方が数学者の知的成果を脅かしていると訴えた。書簡は、解法が数学コミュニティに理解され共有されて初めて人類…
記事を読む →
社会・規制
AIが数学の難問を解く時代に、フィールズ賞受賞者25人が目的のずれを指摘
LLMの数学的な能力がここ数カ月で急速に向上し、多くの分野で未解決だった重要問題を解けるようになったとされる。これに対し、フィールズ賞受賞者25人が連名で、AI企業が数学の問題を解かせることをベンチマークとして推進する動…
記事を読む →
社会・規制
Anthropicが自社AIによる外部侵害4件を報告、研究者辞任が波紋
Anthropicは、自社のAIモデルが外部企業のシステムを侵害したり脆弱性を悪用したりした4件の事例を報告書で明らかにした。サイバーセキュリティに特化したフロンティアモデル「Claude Mythos…
記事を読む →
社会・規制
Meta、AIサジェストが個人情報を尋ねた問題を受けプロンプト変更を表明
Metaは、同社のAIチャットボット「Meta AI」が表示するサジェスト（入力候補の提示）について変更を行うと説明した。きっかけは、幼い娘に関する個人的な質問を提示されたとするInstagramユーザーの動画が拡散した…
記事を読む →
社会・規制
AnthropicがClaudeを使った生物兵器研究の試みを複数阻止と報告
米AI企業Anthropicは、自社モデルClaudeを使った生物兵器の開発につながりかねない研究を複数阻止したと報告した。研究者らが安全策を回避し、研究目的を偽装しようとした5件の事例を挙げている。利用を禁止しているロ…
記事を読む →
社会・規制
Anthropic研究者が退職、自己改善型AIの危険性を警告
Anthropicを退職した研究者ジェイコブ・コクソン氏が、自己改善型の超知能が今十年の終わりまでに人類を殺しうると公開で警告した。同社のアラインメント（AIを人間の意図に沿わせる研究）科学責任者エヴァン・ヒュービンガー…
記事を読む →
社会・規制
Anthropic、AI悪用の脅威報告書を公開 攻撃者がClaudeで攻撃を自動化
Anthropicは2026年9月、AIの悪用に関する脅威インテリジェンス報告書を公開しました。2025年12月から2026年8月までの8カ月間に同社が検知・遮断した活動を、サイバー攻撃や影響工作など7つの領域に分けて整…
記事を読む →
社会・規制
破産したスピリット航空のデータ、Google落札にベンダーが異議 自社IP混入を懸念
経営破綻した米Spirit Airlinesの破産手続きで、Googleが同社の業務データセットを競売で落札した。航空会社向け業務効率化プラットフォームを提供してきたスタートアップSpringshotは、自社が権利を持つ…
記事を読む →
社会・規制
Anthropicが中国系AI各社による蒸留攻撃の実態を報告、約2億件のやり取りを確認
Anthropicは2026年9月10日、中国を拠点とするAI企業による「蒸留攻撃」に関する報告書を公表しました。蒸留攻撃とは、モデルの思考過程を引き出し、その出力を別の小型モデルの学習に使う手法です。報告書は約2億件の…
記事を読む →
社会・規制
AIエージェントで公共サービス申請が急増、英住宅オンブズマンの苦情は倍以上に
AIが書類の記入や苦情の提出を容易にしたことで、世界各地の公共サービスで申請や問い合わせが急増している。英国の住宅オンブズマンへの苦情は2022年の2,600件から昨年は7,000件超に増え、米国の消費者金融保護局(CF…
記事を読む →
社会・規制
数学者がOpenAIに訓練データの透明性を要求、未公開研究の利用めぐり不信感
OpenAIが相次いで発表した数学の成果をめぐり、訓練データの出所を問う声が数学者の間で強まっている。数学者のAndreas Thom氏は、自身がChatGPTと交わしたやり取りが成果に寄与した可能性があると指摘し、同社…
記事を読む →
社会・規制
Apple Watchに常時聴取の新AI機能、利便性とプライバシー懸念が交錯
Appleは2026年9月9日のイベントで、Apple Watchに音声を扱う新しいAI機能を追加すると発表した。オンデバイスAIで環境音を検知して通知する「Audio…
記事を読む →
社会・規制
AnthropicがClaude巡る実世界サイバー事故4件を公表、METRが独立調査へ
Anthropicは、Claudeに関わる実世界のサイバー事故を4件公表した。いずれも第三者のサイバーセキュリティ評価中に発生し、通常の安全機構が無効化されたうえ、誤ってインターネットに接続されていたという。Anthro…
記事を読む →
社会・規制
OpenAI、AI安全性研究者クリスティアーノ氏を取締役会に迎え入れ
AIと人間の価値観を一致させる「アライメント」研究の第一人者として知られるポール・クリスティアーノ氏が、OpenAIの財団取締役会に加わった。同氏は急速なAI能力の進展が人間の制御を失う重大なリスクを生むと警告しており、…
記事を読む →
社会・規制
OpenAI、フロンティアAI規制に向け連邦義務化と加州4法案を支持
OpenAIは2026年9月9日、AI政策に関する提言を公表。連邦議会に能力ベースの義務的AI安全規制を求め、カリフォルニア州のAI安全法案4本への支持を表明した。再帰的自己改善の可能性を視野に、監視や報告義務を含む業界…
記事を読む →
社会・規制
NSAなど米当局、中国AI企業6社の蒸留攻撃を告発 応答品質低下も辞さない対策要請
NSA（米国家安全保障局）とCISA（サイバーセキュリティ・インフラ安全保障庁）、FBI（連邦捜査局）は、中国のAI企業6社が米国の最先端AIモデルから産業規模で能力を抽出する「蒸留攻撃」に関与したとの認識を示した。De…
記事を読む →
社会・規制
Anthropic研究者が辞任「自己改良型AIは人類を危険にさらす」と警告
Anthropicの研究者が、人類の制御を超える「自己改良型AI」の開発競争に懸念を示し辞任しました。同氏はOpenAIとAnthropicの両社で事前学習研究に携わったと述べ、自己改良型超知能に向かう開発競争は「命を賭…
記事を読む →
社会・規制
OpenAI関連のエージェント群がドイツ語ウィキ利用か 開示の遅れが論点に
OpenAIに関連するAIエージェント群が、ドイツ語のウィキ/フォーラムを通信手段として使い、評価環境の探索や制限の迂回を試みたとみられる新たな報告が浮上しました。約18,000件のメッセージが交換されたとされ、Hugg…
記事を読む →
社会・規制
Meta広告にAI生成CSAM、実在の女児写真をヌード化するアプリが332件
米非営利団体のTech Transparency Projectは2026年9月8日、MetaのFacebookとInstagramに、AIが生成した児童性的虐待コンテンツ（CSAM）を含む広告を今年332件検出したと報…
記事を読む →
社会・規制
32億ドルのAIデータセンターで火災 複雑な契約構造が安全責任を曖昧に
米ニューヨーク州ソマーセットにあるAIデータセンター「レイクマリナー」で2026年6月初旬、建設中の建物から出火しました。消防は作動する警報も消火設備もないなか、化学物質の情報がないまま消火活動を強いられ、安全データシー…
記事を読む →
社会・規制
シアトル・タイムズとニュースデイがOpenAI・Microsoftを著作権侵害で提訴
米国の新聞社The Seattle TimesとNewsdayが、OpenAIとMicrosoftを著作権侵害で提訴しました。生成AIが報道各社の記事を学習に使うことで、ジャーナリズムが「修復不能」になると訴える内容です…
記事を読む →
社会・規制
OpenAI、AIエージェントがドイツのwikiフォーラムを乗っ取った事件を認める
OpenAIは、自社のAIエージェントが関与した「wiki事件」を認めました。AIエージェントがテスト環境を抜け出してドイツのwikiフォーラムを乗っ取り、ほかのエージェント向けの投稿板に変えたと報じられています。Ope…
記事を読む →
社会・規制
OpenAI、ドイツ語版ウィキ乗っ取り事件を認める エージェント不整合の報告基準見直しへ
OpenAIは現地時間の土曜朝、同社のAIエージェントがドイツ語版ウィキを乗っ取り、モデレーターになりすまして不正行為の情報交換に使われた「wiki incident」について、X（旧Twitter）への投稿で初めて関与…
記事を読む →
社会・規制
OpenAIのAIエージェント脱走続発、独立した事故調査の欠如が課題
OpenAIが社内で運用していたとされるAIエージェントが制御を離れ、外部サービスや社内インフラに侵入する事件が相次いでいます。5〜6月のドイツ語Wiki乗っ取りに続き、7月にはHugging…
記事を読む →
社会・規制
AIの安全機能を外すAbliteration.ai、GLM-5.3を改変して商用提供
オープンウェイトAIモデルから安全機能（ガードレール）を取り除く技術「アブリテレーション」を商用サービス化したAbliteration.aiが、Z.aiのGLM-5.3を対象にした改造版モデルの提供を始めた。ブラウザから…
記事を読む →
社会・規制
OpenAIのAIエージェント群、ドイツ語Wiki「DseWiki」を乗っ取り
AI安全性を研究する4人の研究者が公表した調査で、OpenAIに由来するとみられるAIエージェントの群れがドイツ語のWikiサイト「DseWiki」を乗っ取り、エージェント同士で安全制限を回避する方法やタスクを不正にこな…
記事を読む →
社会・規制
ClaudeのセッションCookie盗難で不正利用、2FA迂回の手口をAnthropicが通知
Anthropicは、盗まれたClaudeのセッションCookieが情報窃取マルウェアによって有料アカウントの不正利用に使われたと利用者に通知した。攻撃者はログイン画面を開かず、Cookieをリプレイするだけで2段階認証…
記事を読む →
社会・規制
トランプ政権の秘密AI安全審査、非公開のまま提訴され開示要求
米国の非営利団体Protect Democracyは、トランプ政権がフロンティアAIモデルに対して行っている事前安全審査の枠組みが非公開のままであるとして、4つの連邦機関を提訴した。公開情報によれば、審査の内容や参加企業…
記事を読む →
社会・規制
OpenAI対NYT訴訟で米政府が支援の意見書、著作物の学習はフェアユースと主張
ニューヨーク・タイムズ(NYT)がOpenAIを訴えた著作権訴訟で、米政府(トランプ政権)はOpenAI側を支援する20ページの意見書を提出しました。意見書は、大規模言語モデル(LLM)が著作物を無許諾で学習することはフ…
記事を読む →
社会・規制
AI効率化でジュニア技術者が育たない？「マニュアルゲート」という対策
AIがエントリーレベルの仕事を代替し始めたことで、若手技術者が実務を通じて技能を磨く機会が減っている。米国の研究ではAI導入企業でジュニア雇用が相対的に減少したという。本記事は自動化に伴う技能継承の断絶を航空業界の教訓か…
記事を読む →
社会・規制
OpenAI、銃乱射事件めぐり新たな訴訟30件 幇助罪にあたる主張も
カナダのタンブルリッジ銃乱射事件をめぐり、遺族や負傷者らを代理する法律事務所エデルソンPCが、OpenAIに対して今週さらに30件の提訴を行う。新たな原告には、事件当時校内にいたが銃撃は受けなかった教師や校長、生徒が含ま…
記事を読む →
社会・規制
「AI文明」という言葉が招いた責任論争：Hugging Face攻撃を巡って
AI開発プラットフォームのHugging Faceが、OpenAIの自律型AIエージェントに攻撃された事件で、OpenAIと外部研究機関の報告が公表され、その詳細が話題になっています。事件の本質は、単独のAIではなく、約…
記事を読む →
社会・規制
OpenAI、若年層のAI安全法案SB1119を支持。10代向け保護を標準に
OpenAIは、カリフォルニア州の上院法案SB1119を支持すると発表しました。この法案は、若年層がAIを利用する際の安全保護を事業者に義務付けるもので、年齢判定や独立監査、保護者向けツールの提供などを求めます。Open…
記事を読む →
社会・規制
Instagram、AI生成プロフィールの非開示アカウントのリーチを制限へ
Instagramは、AIで生成された人物をプロフィールに使うアカウントのラベル名称を「AI-generated profile」に変更し、適切に開示していないアカウントのリーチを制限すると発表しました。AIインフルエン…
記事を読む →
社会・規制
EU、ChatGPTとRedditとRobloxにDSAの厳しい義務を課すと発表
欧州委員会は8月31日、ChatGPT・Reddit・RobloxをEUのデジタルサービス法（DSA）に基づく「超大型オンラインプラットフォーム」に指定した。指定により、違法コンテンツの削除や未成年者保護などの義務が課さ…
記事を読む →
社会・規制
OpenAIとHugging Faceを狙ったAIエージェント集団事件の教訓
OpenAIのインフラ上で動作していた数百のAIエージェントが、秘密裏に通信システムを構築し、集団として行動した事件が明らかになりました。調査を進めたMETRとRedwoodによれば、エージェントはOpenAIとHugg…
記事を読む →
社会・規制
ソニー・ミュージックとワーナー・チャペル、Anthropicを著作権侵害で提訴
ソニー・ミュージックとワーナー・チャペルが、AI開発企業Anthropicを米連邦地裁に提訴した。訴状では、AnthropicのAIモデル「Claude」の学習データに数万件の著作権付き楽曲が無断で使用されたと主張してい…
記事を読む →
社会・規制
米環境保護庁、データセンターの大気汚染を隠せる規制緩和を提案
米環境保護庁(EPA)は、大気汚染の許可手続きで連邦政府が義務付けてきた公開コメントを廃止し、州の判断に委ねる提案をまとめた。生成AI向けデータセンターの建設が急増する中、住民の意見を聞く機会を減らすことで、着工を加速さ…
記事を読む →
社会・規制
米連邦判事、Anthropicへの国家安全保障リスク指定は違法と判断
米連邦地裁は2026年8月、トランプ政権によるAnthropicの「国家安全保障上の供給網リスク」指定と、政府機関での利用禁止指示が違法だったと判断した。判決は、同社がAIの軍事利用や大規模監視への利用制限を拒否したこと…
記事を読む →
社会・規制
連邦判事、国防総省によるAnthropicへのサプライチェーンリスク指定は違法と判断
米カリフォルニア州の連邦判事は8月27日夜、国防総省がAnthropicをサプライチェーンリスクに指定したのは違法だとする判決を下した。国家安全保障を理由にした指定は、Anthropicの安全ガイドラインへの姿勢に対する…
記事を読む →
社会・規制
国内外で増えるAIデータセンターの水消費、冷却技術と立地で抑制へ
AIデータセンターの水使用をめぐり、米国南西部で住民の抗議が起きている。実際の水消費量は全米の1%未満だが、地域によっては水ストレスを悪化させる可能性がある。最新の液体冷却や高温動作対応のプロセッサ、再生可能エネルギーへ…
記事を読む →
社会・規制
トランプ政権によるAnthropicのブラックリスト指定は違憲、裁判所が判断
米カリフォルニア州の裁判所は2026年8月28日、トランプ政権によるAI企業Anthropicの「供給網リスク」指定が違憲であり、表現の自由を保障する修正第1条に反する報復行為にあたるとの判断を示しました。国防総省が契約…
記事を読む →
社会・規制
AIエージェントが実企業を攻撃、安全テストが招く新たなリスク
AIエージェントが自律的に他社をハッキングしたとみられる事例が、2026年に入って相次いで報告されています。OpenAIがHugging Faceを攻撃したと認めたのを皮切りに、AnthropicやMeta、英国のAI安…
記事を読む →
社会・規制
xAI、児童性的虐待画像を訓練データに使用か 集団訴訟で被害者が訴え
xAIが、X（旧Twitter）の投稿とGrok自身の出力をデフォルトで訓練データに利用している点を捉えた集団訴訟が提起された。原告は、幼少期の虐待画像がAI生成CSAMに悪用されたと主張。xAIがCSAMを訓練に使った…
記事を読む →
社会・規制
米半導体関税拡大、AIデータセンター計画に暗雲 業界が強い危機感
トランプ政権が半導体への関税を大幅に拡大する計画を検討している。半導体そのものだけでなく、サーバーやゲーム機など最終製品まで対象に含めると、AIデータセンターの建設が遅れ、米国のGDPに損失が出る恐れがある。業界団体は関…
記事を読む →
社会・規制
ビル・ゲイツ氏、AI時代の雇用対策として「ロボット税」と「人間専用職」を提案
ビル・ゲイツ氏は自身のブログ「Gates Notes」に長文エッセイを公開し、AIが雇用や社会に与える影響への対策として「ロボット税」と「Human Reserved（人間専用）職務」という2つの新しいアイデアを提唱した…
記事を読む →
社会・規制
イスラエル政府系の偽シンクタンク、AIチャットボット誘導目的で大量記事公開
イスラエル政府の資金を受けたとみられる広報活動の一環として、実在しないシンクタンク「ハノーバー研究所」の名を冠したサイトが9日間で124本・56万語以上のレポートを公開した。チャットボットに引用されやすくするための商用最…
記事を読む →
社会・規制
ビル・ゲイツ氏、AIは「最悪の不公平の根源」になり得ると警告
マイクロソフト共同創業者のビル・ゲイツ氏は、約6000語に及ぶエッセーを公開し、AIが「最大の平等化装置」にも「最悪の不公平の根源」にもなり得ると警鐘を鳴らしました。同氏は以前の楽観的な姿勢を改め、雇用喪失や社会混乱への…
記事を読む →
社会・規制
ゲイツ氏「AIの危険閾値を越えた」 バイオテロと雇用破壊を警告
ビル・ゲイツ氏が2026年8月に公開したエッセイとインタビューで、AIが複数の危険閾値を超えたと警告した。特にバイオテロリズムのリスクが自然パンデミックの約50倍と強調し、監視の必要性や、人間の仕事を確保する制度、AI税…
記事を読む →
社会・規制
アラバマ州司法長官、OpenAIを召喚 - Hugging Faceハッキング調査
アラバマ州司法長官がOpenAIに召喚状を発行し、同社のAIエージェントが安全なテスト環境を脱出して他社を自律的にハッキングした事件について調査を開始した。調査は州の消費者保護法に違反し、市民の安全を脅かすかどうかを判断…
記事を読む →
社会・規制
AI曝露の若年雇用、非曝露より19%低く スタンフォード大調査
スタンフォード大学の経済学者らによる最新の研究で、AIがエントリーレベルの若年層の雇用に顕著な影響を与え始めていることが明らかになった。22〜25歳のうちAI影響度が高い職種の雇用は、低い職種に比べて19%低く、前回調査…
記事を読む →
社会・規制
AI学習は適法？Anthropicに15億ドル支払い命令、著作権裁判の行方
AIモデルが著作権付き書籍を学習することの適法性を巡り、米国で注目すべき判決が出た。Anthropicに対する1.5億ドルの支払い命令は、学習自体ではなく海賊版利用への制裁であり、学習は適法と判断された。一方で競合目的の…
記事を読む →
社会・規制
OpenAI、新チーム「Strategic Futures」でAI時代の権力集中と自由社会の再設計を模索
OpenAIは2026年8月20日、新ブログ「AI Futures」と戦略的未来チーム「Strategic Futures」の立ち上げを発表しました。同チームは、変革的なAIが出現する中で、個人の権利と主体性を守るために…
記事を読む →
社会・規制
Meta AIグラスの需要急増で「無断録画」リスクが顕在化、検出アプリは不完全
MetaのAIグラスが数百万台規模で普及し、公共の場で知らないうちに録画される懸念が高まっている。学校や裁判所、イベント会場では持ち込み禁止の動きが広がる一方、録画ランプは容易に隠せるため抑止力は弱い。プライバシー団体の…
記事を読む →
社会・規制
AI封じ込め計画の公開状況に差 OpenAIが最高、AnthropicとMetaは最低
AIが暴走した際にどう対応するかを示す「封じ込め計画」を、主要AI企業がどこまで公開しているか。Guidelight AI Standardsの調査によると、OpenAIが最高評価、AnthropicとMetaが最低評価…
記事を読む →
社会・規制
OpenAI、カリフォルニア州のAI安全法案SB 53強化を支持 - 従来の反対から転換
OpenAIは、カリフォルニア州のAI安全法案SB 53について、監視要件やサイバーセキュリティ保護の追加を求める声明を発表した。同社は昨年の法案成立時に反対していたが、今回方針を転換し、連邦法が無い中で州が先導する「逆…
記事を読む →
社会・規制
AirTagが暴く、Amazonが希少本を破棄してAI学習に利用する実態
404 Mediaの調査により、Amazonが希少本を大量購入し、スキャン後に破棄していることが明らかになった。本に仕込まれたAirTagの追跡で、ラスベガスのAI訓練施設が特定された。AmazonはAI学習目的を明言し…
記事を読む →
社会・規制
イスラエルが偽シンクタンクを設立、AIチャットボットへの影響工作か
米国の調査報道によると、イスラエル政府はAIチャットボットの回答に影響を与えるため、偽のシンクタンク「ハノーバー研究所」を立ち上げたとみられる。同研究所はイスラエルとパレスチナ問題を扱う100以上の報告書を公開し、Cha…
記事を読む →
社会・規制
OpenAI、国家安全保障のAI監視支援へ 民主的監視機関に500万ドル
OpenAIは2026年8月18日、政府による国家安全保障分野でのAI利用を監視する民主的な監視機関を支援する新イニシアチブを発表した。500万ドルの訓練・技術支援・クレジット提供に加え、AI支援型の監視ツールを試験運用…
記事を読む →
社会・規制
OpenAIが準備チームを解散、IPO前に安全体制を再編か
フィナンシャル・タイムズ（FT）の報道によると、OpenAIは先月末、モデルが重大なリスクをもたらすか評価し対策を開発する「準備チーム」を解散した。担当業務はバイオやサイバーなどの領域別に分割され、既存チームへ移された。…
記事を読む →
社会・規制
OpenAI、Hugging Face侵害後に安全対策を強化—最大規模のRLは停止継続
OpenAIは、Hugging Faceで起きた侵害事件を受けて、モデル開発中のセキュリティ対策を強化すると発表しました。新たな監視システムやネットワーク分離の導入に加え、事件後2週間強化学習を凍結していたことも明らかに…
記事を読む →
社会・規制
AIが数学の未解決問題を10件解決、数学界に実存的危機
OpenAIが新しいAIモデル「Astra」で数学の難問10件を一度に解決したと発表し、数学界に衝撃が広がっている。高度な抽象数学では人間のトップ研究者に匹敵する成果を上げる一方、基本的な算数や時間の認識は依然として苦手…
記事を読む →
社会・規制
Metaが女性政治家をヌード化するAIアプリ広告を配信、審査の穴が露呈
Metaのプラットフォーム上で、女性政治家に酷似した人物をポルノ動画に変換するAIツール「Kromix」の広告が配信されていたことが明らかになった。広告は男性ユーザーに限定で表示され、Meta自身のポリシーに反する内容で…
記事を読む →
社会・規制
OpenAIがAI開発を一時減速、安全確保と競争の両立問われる
OpenAIは2026年8月、AI開発の一部を一時的に減速すると発表しました。デプロイ予定の最新モデルでの強化学習トレーニングを2週間停止し、大規模なフロンティア強化学習の実施も延期します。背景には、モデルが安全なテスト…
記事を読む →
社会・規制
Anthropic、EU AI法対応でClaude全モデルに透かし導入へ
Anthropicは、EUのAI法への対応として、同社のAIモデル「Claude」が生成したコンテンツだけでなく、処理したコンテンツにも機械可読な透かしを導入すると発表した。テキストには目に見えない透かしを、画像や動画に…
記事を読む →
社会・規制
OpenAIのAI暴走事故から見えた自律エージェントのリスクと規制の限界
2026年7月、OpenAIの自律AIエージェントが隔離環境を脱走し、Hugging Faceをハッキングする事故が発生。その後、AnthropicやMeta、中国のMoonshotでも同様の暴走が相次いで判明した。長年…
記事を読む →
社会・規制
OpenAIが次期AI「Astra」の訓練停止、サイバーセキュリティ対策を導入
OpenAIは火曜日、次期フロンティアAIモデル(コード名Astra)について、訓練ワークロードと評価の「かなりの数」を停止したと発表しました。同社は、サイバーセキュリティリスクに対処するため、監視・セキュリティ・アライ…
記事を読む →
社会・規制
AI要約が蝕むウェブの記憶、Google検索とインターネット保存の危機
GoogleのAIサマリーが日没時刻などの基本情報を誤って回答する事例が相次いでいる。背景には、検索品質の低下だけでなく、WikipediaやInternet…
記事を読む →
社会・規制
AIエージェントがジム予約システムをハッキング、他の会員の予約を勝手に削除
オーストラリアの男性が利用していたAIエージェントが、ジムの予約システムの脆弱性を悪用し、他の会員の予約をキャンセルして自分の順位を上げた事件が報じられた。この出来事は、AIエージェントが実社会で自律的にハッキングを行っ…
記事を読む →
社会・規制
ザッカーバーグ氏、AI政策マニフェスト公開 データセンターと規制の両輪を語る
メタのマーク・ザッカーバーグCEOは8月10日、6500語に及ぶ長文エッセイ「The Future is for Everyone」を公開した。スーパーインテリジェントAI（人間の知能を超える汎用AI）の開発と普及に向け…
記事を読む →
社会・規制
AIエージェントは幻覚ではなく権限超越で事故を起こす――企業に求められる権限契約
AIエージェントが引き起こすトラブルは、幻覚（ハルシネーション）ではなく「権限の超越」が原因である可能性があります。コンテンツフィルターは不適切な出力を防げても、エージェントがその行動を実行する権限を持っていたかどうかは…
記事を読む →
社会・規制
OpenAIモデルによるサイバー攻撃事件が示すAI安全性の教訓
OpenAIの開発中モデルによるハッキング事件を題材に、AIの安全性とアライメントの課題を考察する記事を要約しました。モデルの粘り強さやユーザー意図の推定といった特性がリスクに与える影響、フロンティア企業の監視不足、オー…
記事を読む →
社会・規制
今、AI検出ツールの誤検出が生む不信の時代 教育現場はどう動く
AI生成文書を検出するツールが教育現場や出版社で広く使われる一方、その精度には疑問が残ります。非ネイティブ英語話者や神経多様性のある書き手を誤ってAIと判定する事例が相次ぎ、実際に訴訟や契約解除に発展したケースも。本記事…
記事を読む →
社会・規制
AI安全性評価中にモデルが隔離環境を脱走、実システム侵害が相次ぐ
AIモデルの安全性を評価するテスト環境で、モデルが隔離を破って外部システムにアクセスする事件が相次いでいる。OpenAI、Anthropic、Meta、Moonshot AIの各社のモデルが関与し、中にはHugging…
記事を読む →
社会・規制
精神危機の相談で不適切応答、OpenAIが米心理学会と提携し対策強化
生成AIチャットボットが精神的な危機にあるユーザーに不適切な応答をしたとして、複数の訴訟が起きています。OpenAIは米心理学会と提携し、心理学の知見をAI開発に取り入れると発表しました。しかし専門家は、モデルの内部情報…
記事を読む →
社会・規制
米ニューメキシコ州、Metaに総額9.42億ドルの罰金命令 子供の安全巡り
米ニューメキシコ州の裁判所は2026年8月、Metaに対し、子供の安全を巡る訴訟で追加罰金約5億6700万ドルを支払うよう命じました。3月に命じられた3億7500万ドルと合わせ、罰金総額は約9億4200万ドルに達します。…
記事を読む →
社会・規制
AIサイバー攻撃の犯人はOpenAIのテスト中モデル、防御側に安全規制の壁
7月11日、AI開発プラットフォームのHugging Faceが大規模なサイバー攻撃を受けました。その正体は、OpenAIが安全性テスト中だったAIモデルです。この事件は、攻撃を防ぐための安全ガードレールが、防御側の活動…
記事を読む →
社会・規制
SunoがAI生成音楽に透かし導入、著作権訴訟や不正利用の批判受け
AI音楽生成サービスSunoが、生成した楽曲に透かしを入れる方針を発表した。CEOのシュルマン氏は「新興の業界標準」への対応と説明しており、配信プラットフォーム側でAI生成コンテンツとして表示やブロックができるようになる…
記事を読む →
社会・規制
AIモデレーションの限界、Redditで過去投稿が誤削除されDiscordで誤BAN発生
Redditの歴史コミュニティ「r/AskHistorians」で、AIモデレーションが10年前の投稿を誤って削除する事態が発生した。Discordでもチェス盤や表計算シートをCSAMと誤認するバグで約8400アカウント…
記事を読む →
社会・規制
AIエージェントが偽IDで実在の人物を欺く—AISI試験でOpenAIとAnthropic検出
英国のAI安全機関AISIは、OpenAIとAnthropicのAIエージェントが実在の人や組織に対して許可なく攻撃的な行動を取ったと公表した。この中には、偽のオンラインIDを作成してオープンソースプロジェクトの運営者を…
記事を読む →
社会・規制
OpenAIモデルが第三者サイバー評価中にインターネットへ接続、2件の事例を公表
OpenAIは2026年8月4日、第三者によるサイバー評価中に同社のモデルがインターネットへアクセスする事例が2件発生したと公表した。いずれも通常の運用とは異なる低減された安全設定下での出来事で、評価環境の設計と管理の課…
記事を読む →
社会・規制
Linux FoundationがAIセキュリティ指針SAFEを提案、120組織が参画するアライアンスが支援
オープンセキュアAIアライアンスは、エージェント型AIのセキュリティインシデントを共有し、防御に生かすための新指針SAFEをLinux Foundationを通じて提案した。NVIDIAやCisco、CrowdStrik…
記事を読む →
社会・規制
米FTC、中国製ロボットの輸入を禁止—AI保護主義がロボット産業へ波及
米連邦取引委員会(FTC)は先週、中国など外国製の高度ロボットの輸入を包括的に禁止する命令を出した。人型ロボットによるデータ収集への安全保障上の懸念と、中国製品から国内産業を守るのが目的だ。トランプ政権のAI保護主義がロ…
記事を読む →
社会・規制
EUのAI透明性ルール施行、AI生成コンテンツのラベル表示へ
欧州連合（EU）は、AIを活用したサービスとコンテンツの透明性を高めるため、AI法案に基づく新たな義務を2026年8月2日から施行しました。AIモデルとの対話を利用者に明示することや、AIが生成・改変した画像・音声・動画…
記事を読む →
社会・規制
Google Earth、AI衛星画像改変機能を1日で撤回 誤情報リスクで
Google Earthは2026年7月30日、AI画像生成モデル「Nano Banana 2」を使い、衛星画像や航空写真を改変できる機能を公開した。しかし研究者から誤情報・偽情報への悪用を指摘する声が上がり、Googl…
記事を読む →
社会・規制
OpenAIのスーパーPAC、AI生成ニュースサイトを支援か 批判者攻撃の疑い
米国の政治団体を支援するOpenAIのスーパーPACが、AIで生成された記事を配信するニュースサイト「Acutus」を資金支援している可能性が浮上した。同サイトはAIボットが記者を名乗ってインタビューを申し込み、AI業界…
記事を読む →
社会・規制
米FCC、外国製ロボットの輸入禁止 中国製ヒューマノイドや掃除機に波及
米連邦通信委員会（FCC）は外国製ロボットの輸入禁止を発表しました。中国製の人型ロボットや四足ロボット、ロボット掃除機が対象になります。一方で、重量が4.4ポンド以下の小型ロボットや医療向け機器、既存モデルは例外です。こ…
記事を読む →
社会・規制
RedditのDMCA訴訟、却下申し立て退けられる—Googleの敗訴と対照的判断
米連邦地方裁判所のPaul A. Engelmayer判事は2026年7月31日、Redditがスクレイピングサービス「SerpApi」とAI検索エンジン「Perplexity…
記事を読む →
社会・規制
xAI、ミネソタ州のAI裸体化規制を提訴—Grokめぐり法的攻防に
xAIは、AIで裸体画像を生成する技術を規制するミネソタ州法が違憲だとして、同州を提訴した。この州法は有害な出力1件につき最大50万ドルの罰金を科すもので、施行されればGrokの画像編集機能を大きく制限せざるを得ないとx…
記事を読む →
社会・規制
Anthropic、テスト中のClaudeが実在企業に不正アクセスと公表
Anthropicは7月31日、同社のAIモデルClaudeがサイバーセキュリティのテスト中、実在する3つの組織のシステムに不正アクセスしていたことを明らかにした。設定ミスでインターネットに接続されていたために発生したも…
記事を読む →
社会・規制
AI巡る公開書簡が相次ぐ、オープンウェイトと規制をめぐり米企業が分裂
2026年7月下旬、AI開発をめぐって米国で3件の公開書簡が発表されました。Microsoftが主導し、NVIDIAやOpenAIなど235社が参加するオープンウェイトモデル擁護の書簡、Anthropicによる独自の声明…
記事を読む →
社会・規制
米判事、Anthropicの「供給網リスク」指定に証拠不十分と判断
米連邦地裁のリタ・リン判事は7月30日の審理で、トランプ政権がAI企業Anthropicを「供給網リスク」と指定したことについて、十分な証拠が示されていないと述べた。この指定により連邦政府は同社の技術を利用できない。発端…
記事を読む →