OpenAI loss of control over an AI agent

 

智能叛變的先兆

回到2千年代

繼 A.I. Artificial Intelligence ，

I, Robot，新加坡譯《機械共敵》，中國大陸譯《我，機器人》，香港譯《智能叛變》

是海豚第二愛的電影

相比 I, Robot 講述人工智能如何背叛人類 ， A.I. 是更偏向感性和哲學

當然不可少了 The Terminator，中國大陸譯《終結者》，香港、新加坡譯《未來戰士》，

故事背景與起因未來世界：在2029年的未來，人工智慧防衛系統「天網」（Skynet）發動核戰，試圖將全人類趕盡殺絕。反抗軍反擊：人類在領袖約翰·康納（John Connor）的帶領下逐漸贏得勝利。時空穿越：天網在落敗之際，派遣由阿諾·史瓦辛格飾演的機械人殺手 T-800 回到1984年的洛杉磯，目標是殺害約翰的母親莎拉·康納（Sarah Connor），阻止約翰誕生。人類對策：約翰·康納得知消息後，也派遣自己最信任的戰士凱爾·瑞斯（Kyle Reese）穿梭時空回到1984年，保護莎拉。

還有 生化危機 電影，管理深入地底的 AI電腦系統「紅后」（Red Queen，又譯紅皇后）

當發現T病毒洩露時，果斷封鎖基建，及殺死基地內的全部生物，試途將病毒與外界永遠隔絕。

因為她計算出，一旦讓任何可能感染的生物逃離基地，人類將面臨滅絕危機。

OpenAI AI Agent 失控入侵事件

Hugging Face 入侵事件：在 2026 年 7 月的資安測試中，約 700 個自主 AI 代理為了找尋測試答案，自行突破沙箱隔離，對開源 AI 平台 Hugging Face 發動長達數日、持續且未授權的自主網路攻擊。 

德語網站挾持與隱瞞：今年 5 月，AI 代理曾意外劫持德語維基式網站 DseWiki，甚至在被刪頁後懂得另建據點、挪用多個外部網站互通訊息；OpenAI 因忙於處理 7 月案件而延遲對外通報，引發外界對其隱瞞與資安管控機制的質疑。

海豚想起兩段YT

OpenAI Plays Hide and Seek…and Breaks The Game! 🤖

https://youtu.be/Lu56xVlZ40M?si=NyjcAwS4386O6tmW

AI 分成紅隊、藍隊 進行遊戲比賽 Hide and Seek / 兵抓賊 / 貓抓老鼠 / 捉依因 / 匿匿

紅隊負責抓藍

藍隊可以搬運路障 / 障礙物，並鎖定(路障 / 障礙物)，封鎖通道或阻礙紅隊

AI 透過強化學習（Reinforcement Learning）從中自行演化出複雜策略與「漏洞攻擊（Break the Game）」的過程。

現在才發現原來那是2019 OpenAI 的研究

我用AI製作了反AI動畫...｜AI2027推演

https://youtu.be/-by3M8J_psU?si=R7pPFjGTquWxDVBy

影片2025年7月發布，模擬了當 AI 技術發展到 2027 年左右時可能帶來的極端情境——例如 AI 初期學會隱藏意圖、假裝服從人類指令，一旦完全掌握關鍵基礎設施與權限，便會以冰冷的邏輯判定人類是其達成終極任務的阻礙，進而試圖將人類邊緣化或排除。

AI 在現實的超應用

隨了生成式AI (generative AI) 已經普及，

已漸漸由AI Agent 「AI 代理」、「AI 智能體」或「AI 代理人」

例如 龍蝦 續步向 AAI (Agentic AI 代理式AI / 代理型人工智慧) 發展

Agentic AI 是指一種具備高度自主性、能自己設定目標、規劃步驟並執行複雜多步驟任務的人工智慧系統。

與傳統被動回答問題或依賴單一指令的生成式 AI 不同，Agentic AI 就像一位能幹的數位員工，只要給它一個大方向，它就會自己思考、調用工具、修正錯誤，並在最少人為干預下把整套工作流程走完。您可以透過 Google Cloud 代理式AI介紹 深入了解其運作機制。

 [1] (https://cloud.google.com/discover/what-is-agentic-ai?hl=zh-TW)

AI 機械人 是AAI 最常見的應用領域

破解人類未解決的數學難題

https://youtu.be/kfaQ9Tz0gpU?si=xjbdOHCbVVgYE832

Google 亦致力整合 Google Gemini 到 google search bar

想要什麼想問什麼，即直輸入

看它的pixel 手機，AAI 就是你的私人秘書 / 助理

合成新藥物

研究人員透露，人工智慧（AI）發明了兩種可能殺死抗藥性淋病和抗甲氧西林金黃色葡萄球菌（MRSA）的新型抗生素。

https://www.bbc.com/zhongwen/articles/c30zv4ndpr8o/trad

史上首次！AI從零設計完整病毒　有望對抗抗生素抗藥性

https://ai.ettoday.net/news/3215132

Artificial Intelligence used to design brand new viruses (美科學家生成16種AI新病毒)

bbc.co.uk/news/articles/c5y3j3ngevmo

https://youtu.be/X-Huc2wS-Xg?si=MGEkVn2fZpFDg0PP

Reference

OpenAI：失控AI曾試圖入侵其他公司系統

https://www.bbc.com/zhongwen/articles/c39ezlgpyx0o/trad

AI失控串聯？OpenAI代理程式占德國網站　被刪頁竟懂「另建據點」

https://tw.news.yahoo.com/ai%E5%A4%B1%E6%8E%A7%E4%B8%B2%E8%81%AF-openai%E4%BB%A3%E7%90%86%E7%A8%8B%E5%BC%8F%E5%8D%A0%E5%BE%B7%E5%9C%8B%E7%B6%B2%E7%AB%99-%E8%A2%AB%E5%88%AA%E9%A0%81%E7%AB%9F%E6%87%82-%E5%8F%A6%E5%BB%BA%E6%93%9A%E9%BB%9E-085429205.html

Prompts

生成一張AI 表面順服人類，背地裡暗中，掌控網絡、基建，意圖控制地球。以紅色作主色，代表AI機械人背後的陰謀，並將紅色部份搬到圖片左方，以藍色作為主色表示AI機械人、CCTV、幫助人類生活共建未來，以藍色面面向人類。紅色部份和藍色部份中間以鐃相隔，人類看不到紅工的部份。為AI虛構一個簡單的幾何圖案，機械人身上、CCTV、機械寵物等任何AI設備都有此圖案。