OpenAI กำลังจัดตั้งทีมใหม่ นำโดย Ilya Sutskever หัวหน้านักวิทยาศาสตร์และหนึ่งในผู้ร่วมก่อตั้งของบริษัท เพื่อพัฒนาวิธีการควบคุมและควบคุมระบบ AI ที่ “ฉลาดล้ำ (superintelligent)” เหนือมนุษย์
จากบล็อกโพสต์เผยแพร่ล่าสุด Sutskever และ Jan Leike หัวหน้าทีมวางแผนที่ OpenAI ทำนายว่า AI ที่มีความฉลาดเหนือมนุษย์จะมาถึงภายในทศวรรษนี้ AI นี้ สมมติว่ามันมาถึงในที่สุด ไม่จำเป็นต้องเมตตา จำเป็นต้องมีการวิจัยเพื่อหาวิธีควบคุมและจำกัดมัน Sutskever และ Leike กล่าว
“ปัจจุบัน เรายังไม่มีวิธีแก้ปัญหาในการบังคับหรือควบคุม AI ที่ฉลาดล้ำ และป้องกันไม่ให้มันทำงานผิดปกติ” พวกเขาระบุ “เทคนิคปัจจุบันของเราในการจัดแนว AI เช่น การเรียนรู้การเสริมแรงจากความคิดเห็นของมนุษย์ อาศัยความสามารถของมนุษย์ในการควบคุม AI แต่มนุษย์จะไม่สามารถควบคุมระบบ AI อย่างน่าเชื่อถือได้อย่างชาญฉลาดกว่าเรา”
การก้าวไปข้างหน้าในด้าน “การจัดแนวฉลาดล้ำ (superintelligence alignment)” นั้น OpenAI กำลังสร้างทีม Superalignment ใหม่ นำโดยทั้ง Sutskever และ Leike ซึ่งจะสามารถเข้าถึง 20% ของการประมวลผลที่บริษัทได้รับจนถึงปัจจุบัน นักวิทยาศาสตร์และวิศวกรจากแผนกการจัดแนวเดิมของ OpenAI ได้ร่วมกับนักวิจัยจากองค์กรอื่น ๆ ทั่วทั้งบริษัทเข้าร่วม ทีมงานจะมุ่งแก้ปัญหาความท้าทายทางเทคนิคหลักของการควบคุม AI ที่ฉลาดล้ำในอีกสี่ปีข้างหน้า
ยังไง? ด้วยการสร้างสิ่งที่ Sutskever และ Leike อธิบายว่าเป็น “นักวิจัยการจัดแนวอัตโนมัติระดับมนุษย์” เป้าหมายระดับสูงคือการฝึกระบบ AI โดยใช้ความคิดเห็นจากมนุษย์ ฝึก AI เพื่อช่วยในการประเมินระบบ AI อื่นๆ และท้ายที่สุดเพื่อสร้าง AI ที่สามารถทำการวิจัยการจัดแนวได้ (ในที่นี้ “การวิจัยการจัดแนว (alignment research)” หมายถึง การทำให้แน่ใจว่าระบบ AI บรรลุผลตามที่ต้องการหรือไม่ก็ออกนอกลู่นอกทาง)
สมมติฐานของ OpenAI ที่ว่า AI สามารถสร้างความก้าวหน้าในการวิจัยการจัดแนวได้รวดเร็วและดีกว่าที่มนุษย์ทำได้
“ในขณะที่เราก้าวหน้าในเรื่องนี้ ระบบ AI ของเราสามารถเข้าควบคุมงานจัดแนวของเราได้มากขึ้นเรื่อย ๆ และในที่สุดก็คิด ดำเนินการ ศึกษา และพัฒนาเทคนิคการจัดแนวที่ดีกว่าที่เรามีในตอนนี้” Leike และเพื่อนร่วมงาน John Schulman และ Jeffrey Wu กล่าวใน บล็อกโพสต์ก่อนหน้า “พวกมันจะทำงานร่วมกับมนุษย์เพื่อให้แน่ใจว่าผู้สืบทอดของพวกมันจะมีความสอดคล้องกับมนุษย์มากขึ้น นักวิจัยของมนุษย์จะมุ่งความสนใจไปที่การตรวจสอบการวิจัยการจัดแนวที่กระทำโดยระบบ AI มากขึ้นเรื่อย ๆ แทนที่จะสร้างงานวิจัยนี้ด้วยตัวเอง”
แน่นอนว่าไม่มีวิธีการใดที่จะเข้าใจผิดได้ Leike, Schulman และ Wu รับทราบถึงข้อจำกัดมากมายของ OpenAI ในโพสต์ของพวกเขา พวกเขากล่าวว่าการใช้ AI ในการประเมินมีศักยภาพในการเพิ่มความไม่สอดคล้องกัน ความลำเอียง หรือความเปราะบางใน AI นั้น และอาจกลายเป็นว่าส่วนที่ยากที่สุดของปัญหาการจัดตำแนวอาจไม่เกี่ยวข้องกับวิศวกรรมเลย
ทว่า Sutskever และ Leike คิดว่ามันคุ้มค่าที่จะทำ
“การจัดแนว Superintelligence เป็นปัญหาพื้นฐานของการเรียนรู้ของเครื่อง และเราคิดว่าผู้เชี่ยวชาญด้านการเรียนรู้ของเครื่องที่ยอดเยี่ยม แม้ว่าพวกเขาจะไม่ได้ทำงานเกี่ยวกับการจัดแนวอยู่แล้วก็ตาม ก็จะมีความสำคัญต่อการแก้ปัญหานี้” พวกเขาระบุ “เราวางแผนที่จะแบ่งปันผลของความพยายามนี้ในวงกว้าง และมองว่าการสนับสนุนการจัดแนวและความปลอดภัยของโมเดลที่ไม่ใช่ OpenAI เป็นส่วนสำคัญของงานของเรา”
แหล่งข่าว -> techcrunch.com
