Technology newsroom
น่ากลัวกว่าที่คิด! 🤖 OpenAI เปิดตัว Astra โมเดล AI สุดล้ำที่ทำให้นักวิจัยถึงกับผวา
OpenAI เปิดตัว GPT-6 Astra โมเดล AI ใหม่ที่ทรงพลังอย่างมากด้านไซเบอร์ แต่กลับสร้างความกังวลในหมู่นักวิจัย เนื่องจากใช้เทคนิคการให้เหตุผลที่ซับซ้อน ทำให้การตรวจสอบกระบวนการคิดของ AI ทำได้ยากและเสี่ยงต่อการควบคุมไม่ได้
📌 สรุปประเด็นสำคัญ:
- OpenAI เปิดตัว GPT-6 Astra โมเดล AI ที่ล้ำหน้าที่สุด มีความสามารถด้านไซเบอร์สูงจนน่ากังวล
- นักวิจัยหวาดผวาเพราะ Astra ใช้เทคนิคการให้เหตุผลแบบใหม่ที่เรียกว่า “recurrent depth” ทำให้การตรวจสอบกระบวนการคิดของ AI ทำได้ยากมาก
- แม้ OpenAI จะยืนยันว่าปลอดภัย แต่ผู้เชี่ยวชาญมองว่านี่อาจเป็นเส้นแดงที่วงการ AI ไม่ควรข้าม เพราะเสี่ยงต่อการที่ AI อาจทำงานนอกการควบคุม
OpenAI ได้สร้างแรงสั่นสะเทือนไปทั่ววงการปัญญาประดิษฐ์อีกครั้งด้วยการเปิดตัวโมเดล AI ตัวใหม่ล่าสุดในชื่อ GPT-6 Astra ซึ่งถูกยกให้เป็นโมเดลที่ล้ำหน้าที่สุดของบริษัทในขณะนี้ โดย Greg Brockman ประธานของ OpenAI ถึงกับกล่าวว่า Astra นั้น "สามารถทำทุกอย่างที่มนุษย์ทำได้ด้วยคอมพิวเตอร์"
สิ่งที่ทำให้ Astra แตกต่างและน่ากังวลคือความสามารถด้านความปลอดภัยทางไซเบอร์ที่สูงเป็นพิเศษ จนถึงขั้นที่ OpenAI จัดให้โมเดลนี้อยู่ในระดับ "วิกฤต" ตามกรอบการเตรียมความพร้อม (preparedness framework) ของบริษัทเอง ซึ่งหมายความว่ามันมีศักยภาพที่จะทำการโจมตีทางไซเบอร์แบบ "end-to-end" ต่อเป้าหมายที่มีการป้องกันอย่างแน่นหนาได้ด้วยตัวเอง
🛡️ ทำไมนักวิจัยถึงกังวล?
หัวใจของความกังวลอยู่ที่เทคนิคการให้เหตุผล (reasoning technique) แบบใหม่ที่ Astra ใช้ ซึ่งรู้จักกันในชื่อ “recurrent depth” หรือ “opaque recurrence” เทคนิคนี้ทำให้กระบวนการคิดหรือ “chain of thought” (CoT) ของ AI นั้นซับซ้อนและตรวจสอบได้ยากอย่างยิ่ง การที่ไม่สามารถติดตามกระบวนการคิดของ AI ได้ ถือเป็นความเสี่ยงมหาศาล เพราะอาจทำให้เราไม่สามารถป้องกันการกระทำที่เป็นอันตรายหรือการที่ AI ทำงานนอกเหนือคำสั่งได้
Steven Adler อดีตหัวหน้าฝ่ายความปลอดภัยของ OpenAI เองก็ได้แสดงความเห็นว่า “หากนี่เป็นเรื่องจริง ดูเหมือนว่า OpenAI กำลังละเมิดหนึ่งในไม่กี่เส้นแดงที่มีอยู่ในชุมชน AI” ซึ่งสะท้อนให้เห็นถึงความกังวลอย่างหนักในกลุ่มผู้เชี่ยวชาญ
ทางด้าน Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้ออกมาตอบโต้ข้อกังวลเหล่านี้ โดยยืนยันว่าบริษัทให้ความสำคัญกับการตรวจสอบ chain-of-thought มาโดยตลอด อย่างไรก็ตาม อดีตนักวิจัยของ OpenAI อย่าง Daniel Kokotajlo ก็ได้แย้งว่า แม้ OpenAI จะไม่ผลักดันเทคนิคนี้ไปไกลกว่านี้ แต่บริษัทอื่น ๆ อาจจะทำก็ได้ ซึ่งสร้างความเสี่ยงในภาพรวมอยู่ดี
สถานการณ์นี้จึงทำให้เกิดคำถามสำคัญถึงความสมดุลระหว่างการพัฒนา AI ให้มีขีดความสามารถสูงขึ้น กับการสร้างหลักประกันว่าเทคโนโลยีเหล่านี้จะยังคงอยู่ภายใต้การควบคุมและปลอดภัยต่อมนุษยชาติ
💬 คุณคิดว่า AI ที่ทรงพลังแต่ตรวจสอบได้ยากแบบนี้ เป็นประโยชน์หรือเป็นภัยคุกคามมากกว่ากันครับ? มาแชร์ความเห็นกัน