Satya Nadella ซีอีโอ Microsoft เสนอให้ตั้งต้นว่าโมเดล AI อาจถูกแทรกแซงได้ จึงควรมีระบบควบคุมตั้งแต่เริ่มใช้งาน และเปิดทางให้ผู้มีอำนาจหยุดหรือปิดโมเดลระหว่างทำงาน เขาเปรียบกลไกนี้กับ “เบรกฉุกเฉิน” พร้อมเรียกร้องให้ระบบโปร่งใส สังเกตการณ์ได้ และเก็บหลักฐานที่มนุษย์อ่านเข้าใจและป้องกันการแก้ไข
ข้อเสนอนี้ชี้ให้องค์กรเห็นความสำคัญของการตรวจสอบกระบวนการเบื้องหลังคำแนะนำและการทำงานของ AI สำหรับธุรกิจไทย การควบคุมโมเดลและหยุดการทำงานได้เป็นประเด็นที่ควรพิจารณาก่อนป้อนข้อมูลสำคัญหรือมอบหมายให้ AI ตัดสินใจแทนคน
Nadella เตือนอย่าปล่อยให้ AI เป็นกล่องดำ
ในโพสต์บน X Nadella ระบุว่าไม่ควรยอมรับโลกที่ AI ทำงานเป็น “กล่องดำซ้อนกัน” จนผู้คนต้องเลือกเชื่อหรือปฏิเสธคำแนะนำและการกระทำของระบบ โดยไม่มีข้อมูลให้ตรวจสอบ เขาเสนอให้สร้างระบบที่โปร่งใส ควบคุมและสังเกตการณ์ได้ พร้อมเก็บหลักฐานที่มนุษย์อ่านเข้าใจและป้องกันการแก้ไข
Nadella เสนอให้ตั้งสมมติฐานตั้งแต่ต้นว่าโมเดลอาจถูกแทรกแซงได้ จึงต้องมีระบบควบคุมการทำงาน เขาเปรียบมาตรการนี้กับเบรกฉุกเฉิน โดยผู้ได้รับอนุญาตควรหยุดหรือปิดโมเดลได้ขณะทำงาน ส่วนโมเดลที่มีความสามารถสูงขึ้นต้องใช้เทคโนโลยีควบคุมที่ก้าวหน้าขึ้นและมีมาตรฐานร่วมกัน
สำหรับธุรกิจไทย ประเด็นนี้เกี่ยวข้องกับการประเมินความเสี่ยงก่อนป้อนข้อมูลสำคัญให้ AI หรือมอบหมายให้ระบบตัดสินใจแทนคน รวมถึงการกำหนดวิธีสังเกตการณ์และหยุดการทำงาน เพื่อให้ตรวจสอบหลักฐานได้เมื่อ AI ให้คำแนะนำหรือดำเนินการ
ให้ตั้งต้นว่าโมเดลอาจถูกแทรกแซง
Nadella เสนอให้ผู้พัฒนาและผู้ใช้งานตั้งสมมติฐานว่าโมเดล AI อาจถูกแทรกแซงได้ จึงควรวางมาตรการควบคุมตั้งแต่เริ่มใช้งาน ไม่ปล่อยให้โมเดลทำงานโดยไม่มีทางสังเกตหรือจำกัดการทำงาน
เขาเปรียบการควบคุมกับเบรกฉุกเฉิน โดยผู้มีอำนาจต้องหยุดหรือปิดโมเดลได้แม้กำลังทำงานอยู่ การควบคุมจึงต้องครอบคลุมช่วงที่โมเดลกำลังปฏิบัติงาน ไม่ใช่แค่การตรวจสอบก่อนเริ่มใช้
เมื่อโมเดลมีความสามารถมากขึ้น เทคโนโลยีควบคุมก็ต้องพัฒนาตามและมีมาตรฐาน สำหรับธุรกิจไทย ประเด็นนี้เกี่ยวข้องกับการวางมาตรการก่อนป้อนข้อมูลสำคัญให้ AI หรือมอบหมายการตัดสินใจให้ระบบ
การเปิดเผยเหตุการณ์และการตรวจสอบเป็นส่วนหนึ่งของข้อเสนอ
Nadella ยังสนับสนุนให้เปิดเผยเหตุการณ์อย่างทันท่วงที ตรวจสอบระบบโดยผู้ตรวจสอบอิสระ และใช้ข้อมูลที่ตรวจสอบยืนยันได้ เพื่อให้การทำงานของโมเดลโปร่งใสขึ้น
เขาไม่เห็นด้วยกับระบบ AI แบบกล่องดำที่ผู้ใช้ทำได้เพียงรับหรือปฏิเสธคำแนะนำและการกระทำของระบบ แต่เสนอให้ควบคุมและสังเกตการณ์ได้ พร้อมเก็บหลักฐานที่มนุษย์อ่านเข้าใจและตรวจสอบการแก้ไขได้
สำหรับธุรกิจไทย การประเมินความเสี่ยงก่อนป้อนข้อมูลสำคัญหรือมอบหมายการตัดสินใจให้ AI ควรครอบคลุมความโปร่งใส การตรวจสอบ และวิธีรับมือเมื่อเกิดเหตุ
แปลว่าอะไรสำหรับคนไทย
ธุรกิจไทยควรกำหนดวิธีควบคุมโมเดล AI ก่อนป้อนข้อมูลสำคัญ โดยพิจารณาทั้งการตรวจสอบผลลัพธ์และการหยุดระบบเมื่อพบความผิดปกติ แนวคิดของ Nadella คือการวางเงื่อนไขเหล่านี้ก่อนเริ่มใช้งาน
หากให้ AI ช่วยตัดสินใจแทนคน ควรมีวิธีตรวจสอบและหยุดระบบ รวมถึงเปิดทางให้คนเข้ามาทบทวนเมื่อจำเป็น
