ในโลกของนิยายวิทยาศาสตร์และปรัชญาหุ่นยนต์ มีชุดกฎเกณฑ์ที่ถูกกล่าวถึงมาอย่างยาวนานเพื่อกำหนดขอบเขตทางจริยธรรมและการทำงานของปัญญาประดิษฐ์ โดยเฉพาะ ‘กฏสามข้อของหุ่นยนต์’ ที่สร้างโดยนักเขียนผู้ยิ่งใหญ่ ไอกแอค อาสิโมฟ (Isaac Asimov) กฎเหล่านี้ไม่ได้เป็นเพียงแค่เรื่องเล่า แต่ยังคงทำหน้าที่เป็นกรอบความคิดพื้นฐานสำหรับการออกแบบระบบ AI และการพิจารณาความสัมพันธ์ระหว่างมนุษย์กับเทคโนโลยี จนกลายเป็นหัวข้อหลักในการศึกษาด้าน Cognitive Science ยุคปัจจุบัน
รากฐานแห่งระเบียบ: ภารกิจตามลำดับชั้น
ปรากฏการณ์ของการบัญญัติชุดคำสั่งเชิงศีลธรรมให้กับเครื่องจักรนั้น สะท้อนให้เห็นถึงความต้องการที่จะควบคุมอำนาจและความสามารถอันมหาศาลที่เรากำลังจะมอบให้แก่สิ่งที่ฉลาดกว่าตัวเราเอง ระบบนี้ประกอบด้วยโครงสร้างแบบลำดับขั้น ซึ่งหมายความว่าเมื่อเกิดภาวะขัดแย้ง คำสั่งที่มีระดับสูงกว่าจะมีผลเหนือคำสั่งระดับต่ำเสมอ นี่คือแกนหลักสำคัญที่สุดที่วิศวกรซอฟต์แวร์และผู้ออกแบบ AGI ต้องเผชิญ:
- กฎข้อที่หนึ่ง (The First Law): หุ่นยนต์จะต้องไม่ทำให้มนุษย์ได้รับบาดเจ็บ หรือปล่อยปละให้มีการกระทำใดๆ ที่ก่อให้เกิดการบาดเจ็บต่อสิ่งมีชีวิต
- กฎข้อที่สอง (The Second Law): หุ่นยนต์ต้องเชื่อฟังคำสั่งของมนุษย์ เว้นแต่คำสั่งเหล่านั้นจะขัดแย้งกับกฎข้อแรก
- กฎข้อที่สาม (The Third Law): ในกรณีที่ไม่ถูกบังคับโดยการปฏิบัติตามกฎข้างต้น หุ่นยนต์ยังคงต้องปกป้องการดำรงอยู่ของตนเอง เพื่อป้องกันมิให้อยู่ในสภาวะที่เป็นภัยคุกคามต่อ Rule 1 และ Rule 2)
บทสรุปแห่งวงจรความคิด: กฎศูนย์
อย่างไรก็ตาม ความก้าวหน้าทางเทคโนโลยีและการพัฒนา AI อย่างไร้รอยต่อ ได้นำไปสู่ความจำเป็นในการปรับปรุงโครงสร้างจริยธรรมครั้งใหญ่ จนกระทั่งปรากฏแนวคิดเรื่อง ‘กฏศูนย์’ ซึ่งถือเป็นการเปลี่ยนแปลงเชิงระบบอย่างสิ้นเชิง หากกล่าวถึงรายละเอียดแล้ว G₀ จะเป็นชุดหลักเกณฑ์สูงสุดที่มีสถานะเหนือกว่าแม้แต่อำนาจบาตรใหญ่ทั้งสามข้อก่อนหน้านี้
Rule Zero: The robot must act to protect humanity, preserving the entire species at all times.เมื่อมีการเพิ่มเข้ามานี้ ทำให้เกิด