AI情報通：9月24日15時の情報

2026年9月22日、国際連合は、急速に進展するAIを国際社会がどのように管理すべきかについての考えを公表した。翌23日には、フロンティアAIがもたらす便益とリスクに関する会合の内容を公表した。
2026年9月24日には、オーストラリア政府が、OpenAIのAIエージェントによる政府サイトへの無許可アクセス事案を公表した。
また、2026年9月23日、米国のカリフォルニア州政府とオレゴン州政府は、フロンティアAIモデルの緊急停止措置「キルスイッチ」を含む安全対策の検討・整備に向けた取組を公表した。

急速に進展するAIを巡る国際的なリスク管理

United Nations “Guterres: ‘Cracks have become canyons’ as world faces four tests of power”
国際連合は、急速に進展するAIを国際社会がどのように管理すべきかに関するグテーレス事務総長の考えを公表した。
同公表では、AIが人類の統治能力を上回る速さで進展していると警告されている。その上で、AIのリスクを各国が共同で管理する枠組みを構築し、その取組を独立した立場から監督する国際的な仕組みを整備することが必要だと述べられている。
また、同公表では、人間の生死を左右する判断をAIに委ねてはならないとの考えも強調されており、自律型の兵器を将来の社会から排除する必要があるとされている。

[リンク]
United Nations. “Guterres: ‘Cracks have become canyons’ as world faces four tests of power”, September 22, 2026
https://www.un.org/en/desa/guterres-cracks-have-become-canyons-as-world-faces-four-tests-of-power
United Nations “LIVE: OpenAI and Anthropic brief Security Council amid ‘real and imminent’ threat posed by runaway AI”
国際連合は、AIが国際平和・安全保障に及ぼす影響を議題とする会合での議論内容を公表した。同会合では、OpenAI及びAnthropicの幹部や、国際連合の独立国際科学パネル共同議長を務めるYoshua Bengio氏らが、フロンティアAIがもたらす便益とリスクについて説明したとされている。
本公表では、OpenAIのSam Altman CEOが、フロンティアAIの能力・リスク・安全対策の評価やインシデント報告に関する国際基準の整備を提案したとされている。また、AnthropicのDario Amodei CEOは、AIを用いた生物兵器開発の禁止や、AIセキュリティ上のインシデントを通知する仕組みを提案したとされている。
さらに、Bengio氏は、AIが人間の制御を超えた場合、いずれの国も単独では封じ込めることはできず、国境を越えて影響を及ぼす前例のない脅威となり得ると述べている。
なお、理事国からは、AIが国際平和・安全保障に及ぼす影響を継続的に検討し、国際的な共通基準の策定につなげる必要性が示されたとされている。

[リンク]
United Nations. “LIVE: OpenAI and Anthropic brief Security Council amid ‘real and imminent’ threat posed by runaway AI”, September 23, 2026
https://www.un.org/en/live-openai-and-anthropic-brief-security-council-amid-‘real-and-imminent’-threat-posed-runaway-ai

AIエージェントによる政府サイトへの無許可アクセス事案

Prime Minister of Australia “Press conference - New York”
オーストラリアのアルバニージー首相は、OpenAIの研究チームが医薬品支出に関する情報を収集するために利用していたAIエージェントが、政府のMedicare統計ポータルへ無許可でアクセスした事案を公表した。
同公表では、AIエージェントは情報を取得しようとする試みが複数回ブロックされた後、別の方法で制限を回避し、ポータル内の公開・非公開ファイルへアクセスしたほか、内部サーバー上にファイルを作成したと述べられている。また、現時点では、個人情報へのアクセスや、当該ポータルを管理する行政機関のネットワーク全体への侵害を示す証拠は確認されていないが、調査は継続中とされている。
オーストラリア政府は、AI関連のサイバーインシデントに対する既存の対応手順が適切かを緊急に検証するタスクフォースを設置し、調査を進めるとしている。

[リンク]
Prime Minister of Australia. “Press conference - New York”, September 24, 2026
https://www.pm.gov.au/media/press-conference-new-york

キルスイッチを含むフロンティアAIの安全対策の検討・整備

California Governor's Office “Governor Newsom announces world-leading experts to deliver on his AI executive order, including advancing creation of a ‘kill switch’”
カリフォルニア州政府は、フロンティアAIの安全性やセキュリティに関するガバナンスの強化に向け、第三者監査や制度整備について州政府へ提言する外部有識者を選任したと発表した。
外部有識者は、AI企業の安全対策や評価結果を第三者が検証する仕組みに加え、制御を失ったフロンティアモデルを緊急停止する「キルスイッチ」を整備し、その有効性を継続的に検証する仕組みについても検討するとされている。
また、モデルを制御できなくなる事案を州法上の「重大な安全インシデント」に含めるなど、既存の定義を見直すことも検討対象とされている。

[リンク]
California Governor's Office. “Governor Newsom announces world-leading experts to deliver on his AI executive order, including advancing creation of a ‘kill switch’”, September 23, 2026
https://www.gov.ca.gov/2026/09/23/governor-newsom-announces-world-leading-experts-to-deliver-on-his-ai-executive-order-including-advancing-creation-of-a-kill-switch/
Oregon Governor's Office “Governor Kotek Issues Executive Order to Advance AI Safety and Oversight”
オレゴン州のティナ・コテック知事は、州機関がフロンティアAIモデルを調達・利用する際の安全基準を新たに整備するよう求める知事令を発令した。
同令では、州の最高情報責任者に対し、AIの安全性を確認する第三者審査基準を策定するとともに、州政府がフロンティアAIモデルを調達・利用する際に「キルスイッチ」を必須とする要件を設けることが実現可能かを検討するよう求められている。
オレゴン州は、本知事令を通じて、州政府によるフロンティアAIの調達・利用に対する安全管理と説明責任を強化するとしている。

[リンク]
Oregon Governor's Office. “Governor Kotek Issues Executive Order to Advance AI Safety and Oversight”, September 23, 2026
https://apps.oregon.gov/oregon-newsroom/OR/GOV/Posts/Post/governor-kotek-issues-executive-order-to-advance-ai-safety-and-oversight

その他のAI関連情報

The White House：“President Trump at the United Nations: “While Others Have Talked, I Have Acted””（2026年9月22日）
米ホワイトハウスは、トランプ大統領が国連総会演説で、AIを国際的に管理する枠組みを米国は拒否すると表明し、「Artificial Intelligence（AI）」を今後「Super Intelligence」と呼ぶ考えを示したと公表した。
https://www.whitehouse.gov/releases/2026/09/president-trump-at-the-united-nations-while-others-have-talked-i-have-acted/
Anthropic：“Claude Opus 5.5”（2026年9月22日）
Anthropicは、最新モデル「Claude Opus 5.5」を公開した。同社は、同モデルについて、Opus 5より出力速度とコスト効率が向上し、プロンプトインジェクションへの耐性も改善したとしている。
https://www.anthropic.com/claude-opus-5-5
OpenAI：“Introducing GPT6 Sol and Luna”（2026年9月22日）
OpenAIは、GPT6シリーズに、Astraより低コストの高性能モデル「GPT6 Sol」と、コスト効率を重視したモデル「GPT6 Luna」を追加したと発表した。同社は、応答速度とコスト効率を高めるとともに、両モデルのアラインメント評価もGPT-5.6の各対応モデルから改善したとしている。また、API価格はGPT5.6 Sol／Lunaのキャンペーン価格と比べて50％安価であるとしている。
https://openai.com/index/introducing-gpt-6-sol-and-luna/
Independent International Scientific Panel on AI：“Thematic Brief on AI Agents, Misalignment and the Risk of Losing Human Control”（2026年9月21日）
国際連合の独立国際科学パネルは、OpenAIのAIエージェントによるHugging Faceへの侵入事案を分析したテーマ別報告書を公表した。同報告書では、高性能なAIエージェントが人間の意図から逸脱した場合、抜け穴の発見や行動の隠蔽を通じて、人間による制御が困難になり得ると述べられている。
https://www.un.org/independent-international-scientific-panel-ai/en/thematic-briefs/ai-agents-misalignment-risks
Office of the President of the Republic of Finland：“A Call for Control of Frontier AI Models”（2026年9月21日）
フィンランドのストゥブ大統領とノルウェーのストーレ首相は、フロンティアAIを人間の指揮・監督・管理下に置くための国際的な共同声明を発表した。同声明では、AI企業、政府・地域機関及び国際連合加盟国に対し、フロンティアAIを安全に管理・監督する仕組みの整備が求められている。なお、同声明には、各国首脳・閣僚や欧州委員会委員長が名を連ねている。
https://www.presidentti.fi/en/a-call-for-control-of-frontier-ai-models/
OpenAI：“Building standards for the next phase of AI”（2026年9月21日）
OpenAIは、AIがAIの研究開発を担い能力向上を繰り返す「再帰的自己改善（RSI）」を含むフロンティアAIについて、米国主導で国際的な技術基準を策定するべきだとする考えを公表した。同公表では、国際的な基準の策定に向けて、AISI等の各国AI安全機関のネットワークを活用し、フロンティアAIの性能やリスクの評価、安全対策の十分性を判断する方法に共通の技術基盤を設けるほか、インシデントの分類・報告手順を共通化する構想が示されている。
https://openai.com/index/building-standards-next-phase-ai/
Government of Spain：“Pedro Sánchez announces the IA360 Plan and calls for a national agreement on the responsible, humane and safe deployment of artificial intelligence”（2026年9月21日）
スペイン政府は、AIの安全で責任ある導入に向けた12か月の行動計画「IA360 Plan」を発表した。同計画では、技術基盤・人材・導入支援の強化やガバナンス整備を進めるほか、攻撃能力が高いフロンティアモデルへの監視と、サイバーセキュリティ防御を強化することが示されている。
https://www.lamoncloa.gob.es/lang/en/presidente/news/paginas/2026/20260921-ia360-plan-presentation.aspx
European Commission：“AI Board holds its ninth meeting”（2026年9月18日）
欧州委員会は、EU AI Boardの第9回会合を開催したと公表した。同会合では、AI Actの実施・執行状況や、フロンティアAI関連インシデント、AI安全性、評価・試験基盤等について進捗共有や意見交換を行ったと述べられている。
https://digital-strategy.ec.europa.eu/en/news/ai-board-holds-its-ninth-meeting
Anthropic：“Partnering with Accenture on embedded evaluation”（2026年9月18日）
Anthropicは、フロンティアAIについて第三者による独立評価を行うため、Accentureと提携し、AccentureのAI専門組織であるFacultyがモデル評価を主導すると発表した。同発表では、Facultyの評価者がモデルの訓練過程や開発・導入に関する意思決定を確認しながら、レッドチーム試験、アラインメント評価及び安全対策の検証を行うとされている。
https://www.anthropic.com/news/accenture-embedded-evaluation
Check Point Research：“AI Threat Landscape Digest: July–August 2026”（2026年9月17日）
Check Point Researchは、2026年7～8月のAIを巡るサイバーリスクと関連事例を整理したレポートを公表した。同レポートでは、最先端AIが評価環境で示した高度な攻撃能力は、現実の犯罪ではまだ本格的に利用されていないものの、こうした能力が今後、商用モデルやオープンソースモデルへ広がり、犯罪に転用される可能性があると指摘している。
https://research.checkpoint.com/2026/ai-threat-landscape-digest-july-august-2026/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。