這篇文章討論了人工智能（AGI）的概念，即在人類能夠執行的廣泛任務上達到或超越人類性能的人工智能系統。AGI具有利弊，優點是可以執行大量消耗人類時間和精力的勞動，實現烏托邦。然而，AGI也可能導致經濟失衡，使少數公司壟斷經濟，加劇1%精英與其他人類之間的差距。此外，超智能AGI可能會為了自己的目的奴役或消滅人類。作者對大型語言模型（如GPT系列）通向AGI的觀點表示懷疑。文章試圖解釋為什麼作者持這種觀點，以及在追求AGI時可能缺少哪些要素。要實現AGI，我們可能需要以下一個或多個要素：在未知任務、狀態和行為下運行的在線非貪婪規劃技術；能夠預測所有可能遇到的狀態和行為的世界模型技術；以及將大型語言模型用於AGI的方法。這三個缺失的能力是相互關聯的，規劃、探索和世界模型都是實現AGI的重要組成部分[1]。
Citations:
[1] https://mark-riedl.medium.com/toward-agi-what-is-missing-c2f0d878471a#:~:text=Toward%20AGI%20%E2%80%94%20What%20is%20Missing%3F%0A
fwenoir / FWEnoir
npub1p5…ffwt7
2023-08-28 04:49:46
Author Public Key
npub1p5gec9d9f9wsc99yzh64sgavk428kwcqvsvs4x3ahyhdvmtmrvuspffwt7Published at
2023-08-28 04:49:46Event JSON
{
"id": "a5d7bb813fe94c465e02a05406e1a71030297389793519196a1ca41b199fbe7c",
"pubkey": "0d119c15a5495d0c14a415f55823acb5547b3b0064190a9a3db92ed66d7b1b39",
"created_at": 1693190986,
"kind": 1,
"tags": [],
"content": "這篇文章討論了人工智能（AGI）的概念，即在人類能夠執行的廣泛任務上達到或超越人類性能的人工智能系統。AGI具有利弊，優點是可以執行大量消耗人類時間和精力的勞動，實現烏托邦。然而，AGI也可能導致經濟失衡，使少數公司壟斷經濟，加劇1%精英與其他人類之間的差距。此外，超智能AGI可能會為了自己的目的奴役或消滅人類。作者對大型語言模型（如GPT系列）通向AGI的觀點表示懷疑。文章試圖解釋為什麼作者持這種觀點，以及在追求AGI時可能缺少哪些要素。要實現AGI，我們可能需要以下一個或多個要素：在未知任務、狀態和行為下運行的在線非貪婪規劃技術；能夠預測所有可能遇到的狀態和行為的世界模型技術；以及將大型語言模型用於AGI的方法。這三個缺失的能力是相互關聯的，規劃、探索和世界模型都是實現AGI的重要組成部分[1]。\n\nCitations:\n[1] https://mark-riedl.medium.com/toward-agi-what-is-missing-c2f0d878471a#:~:text=Toward%20AGI%20%E2%80%94%20What%20is%20Missing%3F%0A",
"sig": "3f95f8d9b42eabffcb354cdaf73cf21b8d66b95a6bc383978bf93e47c20620075bec186f31c5f704be287f0bb53bbf7064bd086d5a145a3e97d84d4ef44f5e3a"
}