末日陰影
被譽為「人工智慧父」之一的傑佛瑞·辛頓（Geoffrey Hinton）堅信AI將超越人類智慧，並擔憂我們對AI的發展沒有採取足夠的安全措施。
這不僅僅是他的個人觀點，雖然他的觀點本身就具有相當的份量。在接受BBC新聞之夜節目採訪時，辛頓聲稱，AI超越人類智慧是不可避免的，這實際上是該領域頂尖專家的共識。
辛頓告訴BBC：「幾乎我認識的所有人工智慧專家都認為AI將超越人類智慧，這只是個時間問題。」
失控的機器人辛頓是三位「AI教父」之一，與蒙特婁大學的約書亞·班吉歐（Yoshua Bengio）和Meta的楊立昆（Yann LeCun）齊名。辛頓在採訪中提到楊立昆認為超級人工智慧「不會有問題」。
2023年，辛頓辭去了他在Google的職位，他作為業界的「歐本海默」而備受矚目，曾表示後悔自己這一生的工作，並警告了這項技術帶來的存在風險》──他在BBC採訪中再次強調了這一個觀點。
辛頓表示：「有鑑於這種意見分歧很大，我認為在開發和監管AI方面保持謹慎是明智的」。他補充道：「我認為AI有機會掌控人類，而且這是一個很大的機會——不是百分之一，而是更多。AI是否會失控並試圖接管這世界，那我們能控制或不能控制呢？我們不知道。」
就目前情況來看，該技術的軍事應用，例如以色列國防軍據報導使用AI系統在加沙挑選空襲目標，似乎最讓辛頓擔憂。
他告訴BBC：「我最擔心的是，當這些AI能夠自主決定殺人時」，並譴責世界各國政府不願意對這一領域進行監管。
工作不保作為一個支持全民基本收入的人，辛頓還表示「我擔心AI會奪走平凡的工作。」辛頓補充說，這將提高生產力，但財富的增長將不成比例地流向富人，而不是那些失去工作的人。
如果能讓人感到安慰的話，辛頓並不認為AI失控反過來控制人類是注定的結局——只是AI最終會比我們更聰明。不過，你可以說，以盈利為目的、正在開發AI模型的公司，並不是該技術安全開發最值得信賴的管理者。
OpenAI過去曾在道德問題上反覆無常，最近遭到一名前安全工作人員的批評，因為他對該公司是否會負責任地開發超級智慧AI失去了信心。因此，即使辛頓有點杞人憂天，他也肯定不是孤軍奮戰。
- 延伸閱讀：OpenAI真正想要的是什麼？
- 延伸閱讀：人工智慧3次震驚世界，都由美國主導卻都和俄國人有關
- 延伸閱讀：圖靈獎獲得者約書亞·班吉歐：支持監管人工智慧，包括禁止「殺手機器人」
- 延伸閱讀：ChatGPT 全球爆紅，但大眾只認識阿特曼，卻對另一位創始人AI天才科學家伊爾亞·蘇茲克維瞭解不多
資料來源：
加入T客邦Facebook粉絲團 固定链接 '人工智慧之父：專家們有共識，認為AI即將超越人類智慧，而且有很大機會掌控人類' 提交: May 22, 2024, 9:00pm CST