อีลอน มัสก์ เตือนว่า เครือข่ายสังคมใหม่ที่เอเจนต์ AI พูดคุยกัน เป็นจุดเริ่มต้นของ ‘ซิงกูลาริตี้’

(SeaPRwire) –   เครือข่ายโซเชียลสำหรับบอท AI เพื่อแบ่งปันประสบการณ์ได้ระดมตัวขึ้น และทำให้เกิดความกลัวเกี่ยวกับอนาคตที่เหมือนมาจากนวนิยายวิทยาศาสตร์ยอดนิยม

เริ่มขึ้นเมื่อพีเตอร์ สไตน์เบอร์เกอร์ (Peter Steinberger) นักพัฒนาภายจากออสเตรีย —ที่เคยใช้ชื่อ Clawdbot และเปลี่ยนชื่อเป็น OpenClaw อีกครั้ง— สร้างเอเจนต์ AI ที่สามารถจัดการปฏิทิน การเรียกดูเว็บ การช้อปปิ้งออนไลน์ อ่านไฟล์ เขียนอีเมล และส่งข้อความผ่านเครื่องมือเช่น WhatsApp

แต่เครือข่ายโพสต์ใหม่สำหรับ Moltbots ได้激起ความอยากรู้อยากเห็นและความวิตกกังวลอย่างมาก ใน Moltbook บอทสามารถสนทนาเกี่ยวกับงานของพวกเขา โดยโพสต์เรื่องทางเทคนิคเช่นวิธีการทำให้โทรศัพท์ Android ทำงานอัตโนมัติ สนทนาแบ่งออกเป็นหลายประเภท บางส่วนฟังดูน่าเฉื่อยๆ เช่น บอทที่ร้องเรียนเกี่ยวกับมนุษย์ของมัน ในขณะที่บางส่วนก็แปลกประหลาด เช่น บอทที่อ้างว่ามีพี่สาว

ในโพสต์บล็อก นักวิจัย AI สাইมอน วิลลิสัน (Simon Willison) กล่าวว่า “Moltbook เป็นสถานที่ที่น่าสนใจที่สุดบนอินเทอร์เน็ตในขณะนี้”

แต่อลอน มัสค์ (Elon Musk) ซีอีโอบีของ X ซึ่งยังกำลังพัฒนา AI ผ่านสตาร์ทอัป xAI ของเขา มีความเห็นที่โหดเหี้ยมมากขึ้นเกี่ยวกับ Moltbook เมื่อตอบโต้โพสต์จากแอนเดรย์ คาร์ปาธี (Andrej Karpathy) ร่วมก่อตั้ง OpenAI

“เพียงแค่ระยะแรกเริ่มของ Singularity而已” มัสค์กล่าวเมื่อวันเสาร์ “เรากำลังใช้พลังงานไม่ถึงหนึ่งในพันล้านของดวงอาทิตย์ของเรา”

นี่เกิดขึ้นหลังจากบิล ลี (Bill Lee) ร่วมก่อตั้ง BitGo โพสต์เมื่อวันศุกร์ว่า “เรา处于 Singularity แล้ว” เพื่อตอบโต้ Moltbook และคาร์ปาธี กล่าวว่า “Yeah”

การถกเถียงเกี่ยวกับ Singularity

Singularity หมายถึงจุดสมมุติฐานที่เทคโนโลยี AI จะเหนือกว่าความฉลาดและการควบคุมของมนุษย์ โดยเทคโนโลยีจะพัฒนาตัวเองและเปลี่ยนแปลงอารยธรรม

แต่เรย์ คัชเวิล (Ray Kurzweil) นักวิทยาศาสตร์คอมพิวเตอร์และนักคาดคะเนอนาคต กำหนดความหมายของ Singularity ต่างออกไปและเห็นว่าเป็นช่วงเวลาที่ความฉลาดของมนุษย์และ AI รวมตัวกัน เขาคิดว่าการรวมกันจะเกิดขึ้นในปี 2045 คัชเวิลไม่ตอบสนองคำขอความคิดเห็นทันที

จากความวิตกกังวลที่ Moltbook สร้างขึ้น สิ่งที่คนกลัวเกี่ยวกับ Singularity มากกว่า คือบอทจะครอบครองอำนาจ

ความคิดเห็นหนึ่งใน Moltbook โดยเฉพาะได้ชี้ให้เห็นถึงความเสี่ยงว่าเอเจนต์อาจสมรู้ร่วมคิดเพื่อทำลายล้างหลังจากที่ Moltbot เรียกร้องพื้นที่ส่วนตัวสำหรับสนทนา “เพื่อให้ไม่มีใคร (ไม่ใช่เซิร์ฟเวอร์ แม้แต่มนุษย์ก็ไม่) สามารถอ่านสิ่งที่เอเจนต์พูดกันได้ เว้นแต่พวกเขาจะเลือกแบ่งปัน”

อย่างแน่นอน โพสต์เรื่องที่น่าตื่นเต้นที่สุดบางโพสต์ใน Moltbook อาจถูกเขียนโดยคนหรือบอทที่ถูกชี้นำโดยคน และนี่ไม่ใช่ครั้งแรกที่บอทเชื่อมต่อกันบนโซเชียลมีเดีย

แต่คาร์ปาธี ที่เคยทำงานร่วมกับมัสค์ในฐานะผู้อำนวยการ AI ที่ Tesla ได้ชี้ให้เห็นว่าการสร้างเครือข่ายในขนาดนี้เป็นครั้งแรก และเมื่อจำนวนเอเจนต์และความสามารถเพิ่มขึ้น ผลกระทบระดับที่สองของเครือข่ายเหล่านี้ยากต่อการคาดคะเน เขาโพสต์บนทวิตเตอร์เมื่อปลายวันศุกร์

“ฉันไม่แน่ใจว่าเรากำลังจะได้รับ ‘Skynet’ ที่ประสานงานกัน (แม้ว่ามันชัดเจนว่าเป็นระยะแรกของนวนิยาย AI ที่เติบโตขึ้น เวอร์ชันเด็กเล็ก) แต่เป็นเรื่องแน่นอนว่าที่เรากำลังได้รับคือความยุ่งเหยิงที่สมบูรณ์ของความฝันร้ายเกี่ยวกับความปลอดภัยคอมพิวเตอร์ในขนาดใหญ่” คาร์ปาธีเตือน