บทความ 20,000 คำของ Dario Amodei ซีอีโอของ Anthropic ที่กล่าวว่า AI “จะทดสอบ” มนุษยชาติ เป็นสิ่งที่ต้องอ่าน แต่ควรสนใจมากขึ้นในข้อเสนอการแก้ปัญหาแทนที่จะเป็นคำเตือน

(SeaPRwire) –   ดาริโอ อาโมเดอิ (Dario Amodei) ซีอีโอของบริษัท AI Anthropic ได้เผยแพร่บทความยาว 20,000 คำเมื่อวันจันทร์ชื่อว่า The Adolescence of Technology ซึ่งในนั้นเขาเตือนว่า AI จะ “ทดสอบว่าเราเป็นชนิดสัตว์อะไร” และว่า “มนุษยชาติจะได้รับอำนาจที่แทบไม่สามารถนึกภาพได้ และมันไม่ชัดเจนว่าระบบสังคม, การเมือง, และเทคโนโลยีของเรา มีความเป็นผู้ใหญ่พอที่จะใช้อำนาจนั้นได้หรือไม่”

บทความนี้ซึ่งเผยแพร่บน Amodei’s ได้สร้างความตื่นเต้นมากในโซเชียลมีเดีย แต่ควรชี้ให้เห็นว่าอะไรใหม่และอะไรไม่ใหม่ในที่นี้

Amodei มีความกังวลเกี่ยวกับความเสี่ยงอันตรายที่ร้ายแรงจาก AI มาเป็นปีแล้ว เขาเตือนเกี่ยวกับความเสี่ยงของ AI ที่ช่วยผู้คนพัฒนาอาวุธชีวภาพหรืออาวุธเคมี เขาเตือนเกี่ยวกับ AI ที่มีพลังมากที่อาจหลุดจากการควบคุมของมนุษย์ เขาเตือนเกี่ยวกับการสูญเสียงานที่อาจแพร่หลายเมื่อ AI มีความสามารถมากขึ้นและถูกใช้ในอุตสาหกรรมมากขึ้น และเขาเตือนเกี่ยวกับอันตรายของอำนาจและทรัพย์สินที่เข้มข้นเมื่อการใช้ AI เพิ่มขึ้น

ในบทความล่าสุดของเขา Amodei ย้ำความกังวลเหล่านี้ทั้งหมด — ถึงแม้บางครั้งจะใช้ภาษาที่ชัดเจนยิ่งขึ้น และบางครั้งจะมีเวลาที่สั้นลงสำหรับเวลาที่เขาเชื่อว่าความเสี่ยงเหล่านี้จะเกิดขึ้น หัวข่าวเกี่ยวกับบทความของเขา ได้เน้นที่การอธิบายความเสี่ยงของ AI ที่ชัดเจนของ Amodei ซึ่งเป็นส่วนหนึ่งที่เข้าใจได้

ในบรรดาบริษัท AI Anthropic เป็นที่รู้จักกันว่ามีความสนใจในความปลอดภัยของ AI มากที่สุด — ความสนใจนี้พบว่าช่วยเขาเข้าถึงตลาดเชิงพาณิชย์จากบริษัทใหญ่ได้จริงๆ เช่น อธิบายใน เกี่ยวกับบริษัทของ Amodei สาเหตุคือขั้นตอนที่ Anthropic ทำเพื่อให้แน่ใจว่าโมเดลของตนไม่มีความเสี่ยงอันตรายที่ร้ายแรงต่อมนุษยชาติ ทำให้โมเดลเหล่านี้น่าเชื่อถือและสามารถควบคุมได้มากขึ้น — คุณสมบัติที่บริษัทส่วนใหญ่ให้ความสำคัญ

ดังนั้นในหลายมิติ บทความของ Amodei เป็นข้อความการตลาดที่ยาวเหมือนนิยายสั้น เช่นเดียวกับเป็นการคาดการณ์ที่กระตือรือร้นและการเรียกร้องให้ปฏิบัติ

ซึ่งไม่ได้หมายความว่า Amodei เป็นคนไม่จริงใจ มันเพียงแค่ชี้ให้เห็นว่าบทความของเขาทำงานในหลายระดับ และสิ่งที่เขาคิดว่าต้องใช้ในการรักษาอนาคตของมนุษยชาติเมื่อ AI เติบโตขึ้น ก็สอดคล้องกับตำแหน่งแบรนด์ของ Anthropic ในตลาดอย่างดี เช่น มันเป็นสิ่งที่น่าสังเกตว่า Amodei กล่าวถึง “รัฐธรรมนูญ” ที่เขาพัฒนาขึ้นสำหรับโมเดล AI Claude ของตนเป็นปัจจัยสำคัญที่ลดความเสี่ยงต่างๆ — จากการก่อการร้ายชีวภาพถึงความเสี่ยงว่าโมเดลจะหลุดจากการควบคุมของมนุษย์ รัฐธรรมนูญนี้, , เป็นสิ่งหนึ่งที่ทำให้โมเดล AI ของ Anthropic แตกต่างจากโมเดลที่บริษัทคู่แข่งเสนอ เช่น OpenAI, , , และ xAI ของ Elon Musk

สิ่งที่น่าสนใจในข่าวมากกว่าความเสี่ยงบางอย่างที่ Amodei ชี้ในบทความ คือการรักษาเฉพาะทางที่เขาเรียกร้อง เช่น เขากล่าวว่าบุคคลที่มั่งคั่งมีหน้าที่ช่วยสังคมรับมือกับผลกระทบทางเศรษฐกิจที่อาจเกิดจาก AI รวมถึงช่วยผู้ที่อาจสูญเสียอาชีพจาก AI เขากล่าวว่าผู้ก่อตั้งร่วมทั้งหมดของ Anthropic ได้สัญญาบริจาค 80% ของทรัพย์สินไปยังกุศโลบาย เขายังกล่าวว่าพนักงานของ Anthropic ได้สัญญาบริจาคหุ้น Anthropic มูลค่ามากรีดอลลาร์ไปยังองค์กรกุศโลบายแต่ละคน และ Anthropic กำลังจับคู่การบริจาคเหล่านั้น

เขาวิจารณาบุคคลอื่นในซิลิคอนวัลเลย์ว่าไม่ได้ทำเช่นเดียวกัน โดยกล่าวว่า “มันเศร้าใจสำหรับฉันที่บุคคลที่มั่งคั่งหลายคน (โดยเฉพาะในอุตสาหกรรมเทคโนโลยี) ได้ยึดติดกับทัศนคติที่เย็นเป็นและไม่มีค่าในช่วงไม่กี่ปีที่ว่ากุศโลบายเป็นสิ่งที่หลอกลวงหรือไร้ประโยชน์อย่างไม่หลุด”

Amodei กล่าวว่าบริษัท AI เช่นบริษัทของตนเอง ควรทำงานร่วมกับลูกค้าในองค์กรใหญ่เพื่อชี้ทางพวกเขาไปสู่การใช้ AI ที่ได้ค่าประโยชน์จากสายธุรกิจใหม่และการเติบโตของรายได้ ไม่เพียงแต่ผ่านการประหยัดแรงงาน “องค์กรใหญ่มักมีทางเลือกระหว่าง ‘การประหยัดต้นทุน’ (ทำสิ่งเดียวกันด้วยคนน้อยลง) และ ‘การคิดสร้างสรรค์’ (ทำมากขึ้นด้วยคนจำนวนเดียวกัน)” Amodei เขียน “ตลาดจะสร้างทั้งสองอย่างในที่สุดอย่างไม่หลุด และบริษัท AI ที่มีการแข่งขันใดๆ จะต้องให้บริการทั้งสองอย่างบางส่วน แต่อาจมีช่องว่างบางอย่างในการชี้ทางองค์กรไปสู่การคิดสร้างสรรค์เมื่อเป็นไปได้ และมันอาจช่วยเราได้เวลาบางส่วน Anthropic กำลังคิดเกี่ยวกับเรื่องนี้อย่างก้าวหน้า”

เขายังกล่าวว่าบริษัทมีหน้าที่ที่จะมีความคิดสร้างสรรค์เกี่ยวกับวิธีจัดที่นั่งพนักงานที่งานปัจจุบันถูกขัดขวางจาก AI แทนที่จะปลดพนักงานอย่างง่ายดาย เขาเสนอแนวคิดว่า “ในระยะยาว ในโลกที่มีทรัพย์สินรวมมากมาย ที่บริษัทหลายแห่งเพิ่มมูลค่ามากขึ้นจากการเพิ่มผลผลิตและการเข้มข้นของทุน อาจเป็นไปได้ที่จะจ่ายเงินเดือนให้พนักงานมนุษย์แม้หลังจากที่พวกเขาไม่ให้ค่าประโยชน์ทางเศรษฐกิจในแง่ที่เป็นที่ยอมรับแล้ว” และเขากล่าวว่า Anthropic กำลังพิจารณา “เส้นทางที่เป็นไปได้” หลายอย่างสำหรับพนักงานของตนเองที่จะแชร์ในที่สาธารณะในอนาคต

สุดท้าย Amodei เรียกร้องให้มีการแทรกแซงจากรัฐบาลเพื่อแจกจ่ายทรัพย์สินเขา กล่าวว่าวิธีที่ชัดเจนสุดที่จะทำ это คือระบบภาษีแบบค่อยเพิ่มขึ้น ซึ่งอาจเป็นระบบทั่วไปหรือเป้าหมายเฉพาะสำหรับกำไรที่มากเกินไปที่เขาคิดว่าบริษัท AI จะทำในไม่ช้า (แน่นอนว่าในปัจจุบัน Anthropic และบริษัทอื่นๆ ที่มุ่งเน้นการสร้างโมเดล AI เท่านั้น มีกำไรน้อยมาก แต่ Anthropic บอกผู้ลงทุนของตนในปีที่แล้วว่ามันอยู่บนเส้นทางที่จะทำกำไรในปลายปี 2028)

สำหรับผู้มีอิทธิพลที่มั่งคั่งซึ่งจะต่อต้านภาษีนี้ Amodei กล่าวว่าเขามี “อาร์กิวเมนต์แบบปฏิบัติสำหรับผู้มีเงินล้านในโลกว่ามันเป็นผลประโยชน์ของพวกเขาที่จะสนับสนุนรุ่นที่ดีของ [ภาษี] ถ้าพวกเขาไม่สนับสนุบรุ่นที่ดี พวกเขาจะได้รับรุ่นที่เลวร้ายที่ออกแบบโดยฝูงชนอย่างไม่หลุด”

หัวข่าวเกี่ยวกับบทความของ Amodei ได้เน้นที่การคาดการณ์ของเขาว่างานระดับต้นข้าราชการสีขาว 50% จะถูกลดทอนภายใน 1 ถึง 5 ปี Amodei ได้คาดการณ์เช่นเดียวกันบนเวทีในฟอรัมเศรษฐกิจโลกในดาโวสเมื่อสัปดาห์ล่าสุด แต่ข้อความของเขาได้ถูกบังเอิญจากการครอบคลุมข่าวส่วนใหญ่เกี่ยวกับคำปราศจากของประธานาธิบดีสหรัฐอเมริกาโดนัลด์ ทรัมป์ในฟอรัมนั้น

Amodei ยังเขียนในบทความว่า AI ที่มีความสามารถเท่ากับมนุษย์ทั้งหมดจะมาถึงภายใน 2 ปีข้างหน้า ซึ่งอาจเป็นการคาดการณ์ที่ชัดเจนสุดของเขาเกี่ยวกับเวลาที่ข้อดีสำคัญนี้ในประวัติของคอมพิวเตอร์และมนุษย์จะเกิดขึ้น (Amodei กล่าวว่ามันจะใช้เวลาบ้างสำหรับความสามารถ AI ระดับมนุษย์นี้ที่จะกระจายไปทั่วสังคม ซึ่งเป็นสาเหตุที่เขาคิดว่ามันจะ เพียงแทนที่ 50% ของพนักงานความรู้ระดับต้นภายใน 5 ปี)

นักเขียนนิยายวิทยาศาสตร์ William Gibson ได้กล่าวอย่างชื่อดังว่า “อนาคตอยู่ที่นี่แล้ว แต่ไม่ได้กระจายอย่างเท่าเทียม” และควรสังเกตว่าในอดีต Amodei ไม่เคยมีความรู้ล่วงหน้าที่สมบูรณ์เกี่ยวกับผลกระทบของ AI แม้จะมีความถูกต้องในการคาดการณ์การมาถึงของความสามารถ AI บางอย่าง

เช่น ต้นปีที่แล้ว Amodei กล่าวว่าภายใน 6 ถึง 9 เดือน AI จะเขียนโค้ดซอฟต์แวร์ได้ถึง 90% ปรากฏว่ามันเป็นความจริงในกรณีของ Anthropic เอง — บริษัทกล่าวเมื่อเร็วๆว่าเครื่องมือ Claude CoWork ของตนถูกเขียนโดย Claude เองเกือบทั้งหมด แต่ไม่ถูกต้องสำหรับโค้ดทั้งหมด ในธุรกิจอื่นๆ ส่วนใหญ่ จำนวนโค้ดที่เขียนโดย AI อยู่ระหว่าง 20% ถึง 40% — แต่ตัวเลขนี้กำลังเพิ่มขึ้นและเพิ่มจาก 0% เมื่อ 3 ปีที่แล้ว ดังนั้น Amodei อาจไม่เป็นผู้เห็นอนาคตที่ไม่ผิด แต่เขาควรถูกสนใจ