ชายคนหนึ่งเข้าถึงหุ่นยนต์เครื่องดูดฝุ่นหลายพันเครื่องโดยไม่ตั้งใจ เผยให้เห็นความเสี่ยงฝันร้ายทางไซเบอร์ของ AI ที่คนอเมริกันหลายล้านคนกำลังเผชิญ

(SeaPRwire) –   เมื่อวิศวกรซอฟต์แวร์นั่งลงควบคุมหุ่นยนต์ดูดฝุ่น DJI Romo ตัวใหม่ของเขาด้วยคอนโทรลเลอร์วิดีโอเกม PlayStation 5 เขาไม่คิดว่าจะสามารถยึดเครือข่ายการสอดส่องระดับโลกได้โดยบังเอิญ การใช้ผู้ช่วยเขียนโค้ด AI เพื่อย้อนกลับกระบวนการที่หุ่นยนต์ดูดฝุ่นสื่อสารกับเซิร์ฟเวอร์ระยะไกลของ DJI Azdoufal สามารถดึงโทเค็นความปลอดภัยที่ออกแบบมาเพื่อพิสูจน์ว่าเขาเป็นเจ้าของอุปกรณ์เฉพาะของเขาออกมาได้ แต่แทนที่จะเป็นเช่นนั้น เซิร์ฟเวอร์แบ็กเอนด์กลับปฏิบัติกับเขาในฐานะเจ้าของหุ่นยนต์ดูดฝุ่นเกือบ 7,000 ตัวที่ทำงาน across 24 ประเทศ

ด้วยการกดแป้นพิมพ์เพียงไม่กี่ครั้ง Azdoufal ค้นพบว่าเขาสามารถแอบดูฟีดกล้องแบบสด เปิดใช้งานไมโครโฟน และแม้แต่รวบรวมแผนผังพื้นบ้านส่วนตัวของคนแปลกหน้าเป็นแบบ 2D ได้ แม้ว่าเขาจะรายงานช่องโหว่ด้านความปลอดภัย () อย่างมีความรับผิดชอบแทนที่จะใช้ประโยชน์จากมัน แต่ช่องโหว่ที่เหลือเชื่อนี้ก็เน้นย้ำถึงความเป็นจริงที่น่าสะพรึงกลัว: การบูรณาการระบบอัตโนมัติที่รวดเร็วและขาดการตรวจสอบกำลังสร้างช่องว่างด้านความปลอดภัยครั้งใหญ่และที่ไม่เคยมีมาก่อน

ชาวอเมริกันหลายล้านคนกำลังต้อนรับอุปกรณ์ที่เชื่อมต่อกับอินเทอร์เน็ตเหล่านี้เข้าสู่พื้นที่ส่วนตัวที่สุดของพวกเขามากขึ้นเรื่อยๆ ครัวเรือนในสหรัฐฯ ประมาณ 54 ล้านครัวเรือนมีอุปกรณ์สมาร์ทโฮมติดตั้งอย่างน้อยหนึ่งเครื่องภายในปี 2020, ยิ่งไปกว่านั้น บริษัทต่างๆ เช่น , Figure, และ 1X กำลังเร่งนำเสนอหุ่นยนต์มนุษย์ที่มีความซับซ้อน, ที่สามารถอาศัยอยู่ในบ้านและทำงานบ้านที่ซับซ้อนได้

ความสามารถในการสอดส่องของอุปกรณ์สมาร์ทกลายเป็น話題ระดับชาติเมื่อต้นปีนี้ เมื่อ มีการอ้างถึงการลักพาตัว Nancy Guthrie แม่ของพิธีกรรายการ Today Savannah Guthrie บนคลาวด์ ตามมาด้วยโฆษณา Super Bowl สำหรับผลิตภัณฑ์ Ring ของ ซึ่งตั้งใจจะเป็นเรื่องน่ารักของการช่วยเหลือสุนัขที่หาย แต่จริงๆ แล้วเปิดเผยว่ากล้องที่เชื่อมต่อเครือข่ายซึ่งสามารถสอดส่องชาวอเมริกันมีอยู่ทุกที่ กระแสต่อต้านดูเหมือนจะ กับบริษัทสอดส่องของตำรวจ เมื่อคุณเพิ่มเอเจนต์ AI อัตโนมัติเข้าไปในส่วนผสมนี้ คุณจะได้สิ่งที่บริษัทด้านไซเบอร์ยักษ์ใหญ่ Thales อธิบายว่าเป็นสถานการณ์ฝันร้ายที่กำลังก่อตัว

สถานการณ์ฝันร้ายที่อยู่ใกล้แค่เอื้อม

ตามที่เผยแพร่เมื่อไม่นานมานี้ องค์กรถึง 70% ที่น่าตกใจ ระบุชัดเจนว่า AI เป็นความเสี่ยงด้านความปลอดภัยของข้อมูลสูงสุดของพวกเขา และเช่นเดียวกับหุ่นยนต์ดูดฝุ่น DJI ที่พึ่งพาเซิร์ฟเวอร์คลาวด์ระยะไกล องค์กรต่างๆ กำลังฝัง AI ลงในเวิร์กโฟลว์ประจำวันของพวกเขาอย่างกระตือรือร้น มอบสิทธิ์การเข้าถึงข้อมูลองค์กรที่กว้างขวางให้กับระบบอัตโนมัติ

ปัญหาหลักคือการขาดการมองเห็นและการควบคุมข้อมูลพื้นฐานที่น่าตกใจ เปิดเผยว่ามีเพียง 34% ขององค์กรเท่านั้นที่รู้ว่าข้อมูลความลับทั้งหมดของพวกเขาอยู่ที่ไหน และเนื่องจากระบบ AI รับและดำเนินการกับข้อมูลอย่างต่อเนื่อง across สภาพแวดล้อมคลาวด์ที่กว้างใหญ่ จึงเป็นเรื่องยากอย่างยิ่งที่จะบังคับใช้ “การเข้าถึงโดยมีสิทธิ์น้อยที่สุด” หรือการปฏิบัติในการมอบสิทธิ์การเข้าถึงที่จำเป็นขั้นต่ำเท่านั้น หากข้อมูลประจำตัวของเครื่อง—เช่น โทเค็นหรือคีย์ API—ถูกบุกรุก การเปิดเผยข้อมูลที่ตามมาอาจสร้างความเสียหายอย่างรุนแรงได้

ในความเป็นจริง การขโมยข้อมูลประจำตัวเป็นเทคนิคการโจมตีหลักในปัจจุบัน against โครงสร้างพื้นฐานการจัดการคลาวด์ ซึ่งถูกอ้างอิงโดย 67% ขององค์กรที่เคย遭受การโจมตีทางคลาวด์ ลองนึกภาพหุ่นยนต์ดูดฝุ่น 7,000 ตัว แต่เป็นอุปกรณ์ Nest หรือ Ring ของชุมชนทั้งชุมชน ถูกควบคุมโดยเอเจนต์ AI แทน

Rodney Brooks ผู้ร่วมก่อตั้ง iRobot ผู้สร้าง Roomba กล่าวว่า วิสัยทัศน์ของ Elon Musk เกี่ยวกับอนาคตที่ขับเคลื่อนโดยหุ่นยนต์ humanoid นั้น “ไร้สาระ” เพราะพวกมัน “งุ่มง่ามเกินไป”

“หุ่นยนต์ humanoid ในปัจจุบันจะไม่เรียนรู้วิธีที่จะมีความคล่องแคล่ว แม้ว่าจะมีเงินหลายร้อยล้าน หรืออาจจะหลายพันล้านดอลลาร์ ถูกบริจาคโดย VC และบริษัทเทคโนโลยีใหญ่ๆ เพื่อจ่ายค่าฝึกอบรมพวกมัน” Brooks เขียนใน a  ยังไม่ชัดเจนว่าความคิดนั้นขยายไปถึงมนุษย์หรือเอเจนต์ AI ที่ควบคุมหุ่นยนต์นั้นจากระยะไกลหรือไม่

“ความเสี่ยงจากภายในไม่ใช่แค่เกี่ยวกับคนอีกต่อไปแล้ว มันยังเกี่ยวกับระบบอัตโนมัติที่ถูกเชื่อใจเร็วเกินไปด้วย” Sebastien Cano รองประธานอาวุโสด้านผลิตภัณฑ์ความปลอดภัยทางไซเบอร์ที่ Thales เตือน เมื่อมาตรการความปลอดภัยพื้นฐาน เช่น การกำกับดูแลอัตลักษณ์และนโยบายการเข้าถึงอ่อนแอ Cano ระบุว่า “AI สามารถขยายจุดอ่อนเหล่านั้น across สภาพแวดล้อมขององค์กรได้เร็วกว่ามนุษย์ใดๆ มาก”

สิ่งที่ทำให้แย่ลงไปอีก เครื่องมือที่ใช้สร้างซอฟต์แวร์กำลังลดอุปสรรคในการเข้าใช้เพื่อแสวงหาประโยชน์จากระบบเหล่านี้ เครื่องมือเขียนโค้ดที่ใช้ AI—เช่นเดียวกับที่ Azdoufal ใช้เพื่อย้อนกลับกระบวนการเซิร์ฟเวอร์ DJI ได้อย่างง่ายดาย—ทำให้บุคคลที่มีความรู้ทางเทคนิคน้อยกว่าสามารถค้นพบและใช้ประโยชน์จากข้อบกพร่องของซอฟต์แวร์ได้ง่ายขึ้นอย่างมาก แม้จะมีภัยคุกคามอัตโนมัติที่ทวีความรุนแรงขึ้นนี้ มีเพียง 30% ของบริษัทที่สำรวจมีงบประมาณด้านความปลอดภัย AI โดยเฉพาะในปัจจุบัน โดยยังคงพึ่งพาการป้องกันแนวรอบ傳統ที่สร้างขึ้นสำหรับผู้ใช้ที่เป็นมนุษย์แทน

ตามที่ Eric Hanselman หัวหน้านักวิเคราะห์ที่ S&P Global’s 451 Research ชี้ให้เห็น การเปลี่ยนแปลงกระบวนทัศน์พื้นฐานเป็นสิ่งที่จำเป็นอย่างเร่งด่วน

“เมื่อ AI ถูกฝังลึกเข้าไปในการดำเนินงานขององค์กร การมองเห็นและการปกป้องข้อมูลอย่างต่อเนื่อง不再是ทางเลือกอีกต่อไป” Hanselman กล่าว

หากไม่มีการทบทวนโปรโตคอลอัตลักษณ์และการเข้ารหัสลับอย่างถอนรากถอนโคน สังคมก็เปรียบเสมือนปล่อยให้ประตูหน้าบานเปิดกว้างสำหรับวิศวกรซอฟต์แวร์คนต่อไปที่มีคอนโทรลเลอร์วิดีโอเกม