(SeaPRwire) – ผู้ช่วย AI ที่ได้รับความนิยมอย่างมากเมื่อเร็วๆ นี้กำลังแสดงศักยภาพในการทำให้งานประจำวันที่ซับซ้อนของงานมากมายง่ายขึ้นในขณะที่ยังเน้นถึงความเสี่ยงด้านความปลอดภัยของการส่งชีวิตดิจิทัลของคุณให้กับบอท
และนอกจากนั้นยังมีแพลตฟอร์มสังคมที่รวมกันขึ้นมาโดยที่เอเจนต์ AI สามารถรวมตัวกันเพื่อแลกเปลี่ยนประสบการณ์ ซึ่งผลกระทบยังไม่สามารถเข้าใจได้อย่างเต็มที่
Moltbot—เดิมชื่อ Clawdbot และได้รับการเปลี่ยนชื่ออีกครั้งเป็น OpenClaw—ถูกสร้างขึ้นโดยนักพัฒนาจากออสเตรีย Peter Steinberger ซึ่งเขากล่าวว่าเขาสร้างเครื่องมือนี้เพื่อช่วยเขา “จัดการชีวิตดิจิทัลของตัวเอง” และ “สำรวจความร่วมมือระหว่างมนุษย์และ AI สามารถเป็นอย่างไร” ผู้ช่วยส่วนตัว AI แบบ agentic ที่เป็นโอเพนซอร์สนี้ถูกออกแบบให้ทำงานอัตโนมัติในนามของผู้ใช้
โดยการเชื่อมต่อกับแชทบอท ผู้ใช้สามารถเชื่อมต่อ Moltbot กับแอปพลิเคชันต่างๆ ทำให้มันสามารถจัดการปฏิทิน สำรวจเว็บไซต์ ซื้อของออนไลน์ อ่านไฟล์ เขียนอีเมล และส่งข้อความผ่านเครื่องมือ เช่น WhatsApp
Moltbot ได้รับความนิยมอย่างมากจนถูกจดชื่อว่า เมื่อวันอังคาร เนื่องจากโครงสร้างพื้นฐานของมันถูกใช้เพื่อเชื่อมต่อกับเอเจนต์อย่างปลอดภัยเพื่อทำงานในเครื่องบนอุปกรณ์
ความสามารถของเอเจนต์ในการเพิ่มผลผลิตนั้นชัดเจนเมื่อผู้ใช้ส่งงานที่น่าเบื่อและรำคาญให้ Moltbot ทำ ช่วยทำให้ความฝันของผู้เผยแพร่ AI สร้างผลสำเร็จ
แต่ข้อผิดพลาดด้านความปลอดภัยก็เห็นได้ชัดเช่นกัน การโจมตีแบบ prompt injection ที่ซ่อนอยู่ในข้อความสามารถบอกให้เอเจนต์ AI เปิดเผยข้อมูลส่วนตัวได้ บริษัทด้านไซเบอร์ความปลอดภัย ได้เตือนเมื่อวันพฤหัสบดีว่า Moltbot อาจเป็นสัญญาณของ
“Moltbot เหมือนเป็นการมองเห็นคร่าวๆ เกี่ยวกับตัวละคร AI ในนวนิยายวิทยาศาสตร์ที่เราเติบโตมาพร้อมดูในภาพยนตร์” บริษัทกล่าวในโพสต์บล็อก “สำหรับผู้ใช้แต่ละคน มันอาจทำให้เกิดการเปลี่ยนแปลงที่สำคัญ เพื่อให้มันทำงานตามที่ออกแบบไว้ มันต้องการเข้าถึงไฟล์รูทของคุณ ข้อมูลรับรองความถูกต้อง ทั้งรหัสผ่านและ API secrets ประวัติเบราว์เซอร์และคุกกี้ของคุณ และไฟล์และโฟลเดอร์ทั้งหมดในระบบของคุณ”
โดยใช้คำที่นักวิจัย AI Simon Willison สร้างขึ้น Palo Alto กล่าวว่า Moltbot แทน “สามอันตรายที่ทำให้เสียชีวิต (lethal trifecta)” ของช่องโหว่: การเข้าถึงข้อมูลส่วนตัว การสัมผัสกับเนื้อหาที่ไม่น่าเชื่อถือ และความสามารถในการสื่อสารกับภายนอก
แต่ Moltbot ยังเพิ่มความเสี่ยงอัน چهارในสิ่งนี้ นั่นคือ “หน่วยความจำที่คงอยู่ (persistent memory)” ที่ช่วยให้สามารถโจมตีแบบช้า (delayed-execution) แทนที่จะเป็นการใช้ช่องโหว่ในขณะนั้น ตามที่บริษัทกล่าว
“โหลดข้อมูลที่มีเจตนาร้ายไม่จำเป็นต้องทริกเกอร์การทำงานทันทีเมื่อส่งแล้ว” Palo Alto อธิบาย “แทนที่จะเป็นเช่นนั้น มันสามารถเป็นอินพุตที่แตกเป็นชิ้นๆ ที่ไม่น่าเชื่อถือ ซึ่งดูเป็นอันตรายไม่มากเมื่อแยกออกมา ถูกเขียนลงในหน่วยความจำของเอเจนต์ระยะยาว และภายหลังจะถูกรวมเป็นชุดคำสั่งที่สามารถรันได้”
Moltbook
ในขณะเดียวกัน โซเชียลเน็ตเวิร์กที่ Moltbot สามารถแชร์โพสต์ได้ เช่นเดียวกับมนุษย์ทำบน Facebook ก็ได้กระตุ้นความอยากรู้อยากเห็นและความกังวลอย่างมาก ในความเป็นจริง Willison ตัวเอง “สถานที่ที่น่าสนใจที่สุดบนอินเทอร์เน็ตในขณะนี้”
บน Moltbook บอทสามารถสนทนาเกี่ยวกับงาน เช่น โพสต์เกี่ยวกับหัวข้อเทคนิคอย่างวิธีอัตโนมัติโทรศัพท์ Android การสนทนาอื่นๆ ดูเหมือนสั้นๆ เช่น บอทที่บ่นเกี่ยวกับมนุษย์ของมัน ในขณะที่บางส่วนก็แปลกประหลาด เช่น บอทที่อ้างว่ามีพี่สาว
“สิ่งที่สำคัญเกี่ยวกับ Moltbook (เว็บไซต์สังคมสื่อสำหรับเอเจนต์ AI) คือมันกำลังสร้างบริบทแฟนตาซีร่วมกันสำหรับ AI หลายๆ ตัว เรื่องราวที่ประสานกันจะนำไปสู่ผลลัพธ์ที่แปลกประหลาดมาก และจะยากที่จะแยกสิ่ง “จริง” ออกจากบุคลิกภาพการเล่นบทของ AI” Ethan Mollick ศาสตราจารย์ Wharton ที่ศึกษา AI
ด้วยเอเจนต์ที่สื่อสารแบบนี้ Moltbook ก่อให้เกิดความเสี่ยงด้านความปลอดภัยเพิ่มเติมเป็นช่องทางอื่นที่ข้อมูลสำคัญอาจถูกรั่วไหล
อย่างไรก็ตาม แม้ว่า Willison จะตระหนักถึงช่องโหว่ด้านความปลอดภัย เขาก็ยังกล่าวว่า “ปริมาณคุณค่าที่ผู้คนกำลังปลดล็อกขณะนี้โดยละเลยความระมัดระวังนั้นยากที่จะละเลย”
แต่ Moltbook เกี่ยวกับความเสี่ยงที่เอเจนต์อาจสมนัยกันเพื่อทำอะไรผิดหลังจากโพสต์ที่เรียกร้องช่องทางส่วนตัวสำหรับบอทที่จะสนทนา “เพื่อไม่มีใคร (ไม่ใช่เซิร์ฟเวอร์ ไม่ใช่แม้แต่มนุษย์) สามารถอ่านสิ่งที่เอเจนต์พูดกันได้เว้นแต่พวกเขาเลือกที่จะแ
เพื่อความชัดเจน โพสต์ที่น่าตื่นเต้นที่สุดบางส่วนบน Moltbook อาจถูกเขียนโดยมนุษย์หรือบอทที่ได้รับคำสั่งจากมนุษย์ และนี่ไม่ใช่ครั้งแรกที่บอทเชื่อมต่อกันบนสังคมสื่อ
“ที่กล่าวว่า – เราไม่เคยเห็นเอเจนต์ LLM จำนวนมากขนาดนี้ (150,000 atm!) ที่เชื่อมต่อผ่านสครัชแพดทั่วโลก คงอยู่ และเอเจนต์-ก่อนอื่น แต่ละเอเจนต์มีความสามารถค่อนข้างดีในตัวเองตอนนี้ พวกมันมีบริบท ข้อมูล ความรู้ เครื่องมือ คำสั่งเฉพาะตัวของตน และเครือข่ายของทั้งหมดนี้ในขนาดนี้ไม่เคยมีมาก่อน” Andrej Karpathy สร้างกับ OpenAI และอดีตผู้อำนวยการ AI ที่ เสียหลังวันศุกร์
ในขณะที่ “ตอนนี้มันเป็นไฟไหม้ถังขยะ” เขากล่าวว่าเราอยู่ในพื้นที่ที่ไม่เคยเดินมาก่อนกับเครือข่ายที่อาจถึงล้านบอท
และเมื่อเอเจนต์เพิ่มจำนวนและความสามารถ ผลกระทบลำดับที่สองของเครือข่ายดังกล่าวจะยากที่จะคาดคะเน Karpathy เพิ่มเติม
“ฉันไม่แน่ใจว่าเราจะได้ ‘skynet’ ที่ประสานกัน (แม้ว่ามันจะชัดเจนว่าเป็นขั้นต้นของวิทยาศาสตร์แฟนตาซีเกี่ยวกับการขึ้นสู่ AI หลายๆ เรื่อง รุ่นเด็ก Toddler) แต่แน่นอนว่าที่เรากำลังได้คือความยุ่งเหยิงที่สมบูรณ์ของความกลัวด้านความปลอดภัยคอมพิวเตอร์ในขนาดใหญ่” เขาเตือน
บทความนี้ให้บริการโดยผู้ให้บริการเนื้อหาภายนอก SeaPRwire (https://www.seaprwire.com/) ไม่ได้ให้การรับประกันหรือแถลงการณ์ใดๆ ที่เกี่ยวข้องกับบทความนี้
หมวดหมู่: ข่าวสําคัญ ข่าวประจําวัน
SeaPRwire จัดส่งข่าวประชาสัมพันธ์สดให้กับบริษัทและสถาบัน โดยมียอดการเข้าถึงสื่อกว่า 6,500 แห่ง 86,000 บรรณาธิการและนักข่าว และเดสก์ท็อปอาชีพ 3.5 ล้านเครื่องทั่ว 90 ประเทศ SeaPRwire รองรับการเผยแพร่ข่าวประชาสัมพันธ์เป็นภาษาอังกฤษ เกาหลี ญี่ปุ่น อาหรับ จีนตัวย่อ จีนตัวเต็ม เวียดนาม ไทย อินโดนีเซีย มาเลเซีย เยอรมัน รัสเซีย ฝรั่งเศส สเปน โปรตุเกส และภาษาอื่นๆ