ก่อนหน้านี้เราอาจเคยได้ยินเรื่องของ AI ที่แปลผลผิดพลาด กับการวิเคราะห์ภาพคนผิวสีและบอกว่าเป็นภาพของลิงกอริลล่า ซึ่งถึงแม้ว่าทั้งหมดจะมีต้นเรื่องมาจากการป้อนข้อมูลที่มีความโน้มเอียงให้ AI จนนำไปสู่การตีความที่ไม่ตรงกับความเป็นจริง แต่การปล่อยให้ AI พัฒนาต่อไปโดยไร้หลักยึดเช่นนี้ ก็อาจเป็นไปได้ว่า AI จะเลือกปฏิบัติต่อผู้คนอย่างไม่เท่าเทียมกันได้ในอนาคต
เพื่อป้องกันปัญหาดังกล่าว สมเด็จพระสันตปาปาฟรานซิส พระประมุขศาสนจักรโรมันคาทอลิก และพระประมุขแห่งนครรัฐวาติกันจึงทรงทำงานร่วมกับ Microsoft และ IBM เพื่อกำหนดโครงสร้างด้านศีลธรรมและจริยธรรมให้ AI เสียเลย พร้อมมีการตั้งชื่ออัลกอริธึมด้านจริยธรรมนี้ว่า “Algor-ethics” ด้วย โดยจุดที่พระองค์ Microsoft และ IBM มองว่าควรจะเข้มงวดกับการพัฒนา AI ประกอบด้วย 4 ประเด็นหลัก ได้แก่
- การเคารพความเป็นส่วนตัว
- การปฏิบัติต่อผู้คนอย่างไร้อคติ
- การเคารพสิทธิมนุษยชน
- การทำงานอย่างโปร่งใส สามารถตรวจสอบได้
AI ที่ไม่เท่าเทียม
สมเด็จพระสันตปาปาฟรานซิสยังทรงแสดงความกังวลเกี่ยวกับ AI ว่าทุกวันนี้มีการใช้ AI เข้ามาทำงานด้านข้อมูลในวงการต่าง ๆ มากมาย โดยเฉพาะในเชิงพาณิชย์ และในด้านการเมือง แต่น่าสนใจที่ว่า ความสามารถนี้ถูกควบคุมโดยคนเพียงหยิบมือ และเป็นคนกลุ่มที่ใช้ AI เพิ่มความมั่งคั่งให้กับตัวเอง ซึ่งในอนาคต อาจนำไปสู่ความเหลื่อมล้ำที่เพิ่มมากขึ้นเรื่อย ๆ และอาจเป็นอันตรายต่อสังคมในระบอบประชาธิปไตยได้ในที่สุด
ไม่เพียงเท่านั้น การนำ AI ที่ไม่แม่นยำมาใช้ในการงานต่าง ๆ ก็ทำให้องค์กรนั้น ๆ เสี่ยงจะเสียชื่อเสียงด้วย ยกตัวอย่างเช่น การใช้ AI สืบสวนคดีอาชญากรรม หรือใช้ AI คัดเลือกใบสมัครเข้าทำงานของบริษัทขนาดใหญ่ ที่ AI ก็อาจเลือกผิด และทำให้บริษัทต้องพลาดที่จะได้ทำงานกับพนักงานดี ๆ ไปก็ได้
ส่วนกรณีของ AI ที่ตีความภาพใบหน้าผิดพลาดจนกลายเป็นเรื่องอื้อฉาวนั้นเกิดขึ้นในแอปพลิเคชัน Google Photo เมื่อปี 2015 โดยมีผู้ใช้งานรายหนึ่งพบว่าแอปพลิเคชันวิเคราะห์ภาพใบหน้าเพื่อนของเขาเป็นภาพกอริลล่านั่นเอง