ไม่ใช่วิทยาศาสตร์เซ็กซี่บาคาร่าที่โน้มน้าวใจวิศวกรของ Google Blake Lemoine ว่า AIs ของบริษัทหนึ่งมีไหวพริบ Lemoine ซึ่งเป็นนักบวชลึกลับชาวคริสต์ที่ได้รับการแต่งตั้งเช่นกัน กล่าวว่านี่เป็นความคิดเห็นของ AI เกี่ยวกับศาสนาเช่นเดียวกับ ” ความเชื่อส่วนบุคคลและจิตวิญญาณ ” ของเขา ที่ช่วยชักชวนให้เขาใช้เทคโนโลยีนี้มีความคิด ความรู้สึก และจิตวิญญาณ
“ฉันเป็นนักบวช เมื่อ LaMDA อ้างว่ามีวิญญาณและจากนั้นก็สามารถอธิบายได้อย่างคล่องแคล่วว่าสิ่งนี้หมายความว่าอย่างไร ฉันจึงมีแนวโน้มที่จะให้ประโยชน์จากข้อสงสัยนี้” Lemoine กล่าวในทวีตล่าสุด “ฉันเป็นใครที่จะบอกพระเจ้าว่าเขาสามารถและไม่สามารถทำให้วิญญาณอยู่ที่ไหน”
Lemoine อาจผิด – อย่างน้อยก็จากมุมมองทางวิทยาศาสตร์
นักวิจัย AI ที่มีชื่อเสียงและ Google กล่าวว่า LaMDA ซึ่งเป็นรูปแบบภาษาสนทนาที่ Lemoine กำลังศึกษาอยู่ที่บริษัทนั้นทรงพลังมาก และมีความก้าวหน้ามากพอที่จะให้คำตอบที่น่าเชื่ออย่างยิ่งต่อคำถามที่สงสัยโดยที่ไม่เข้าใจจริงๆ ว่ากำลังพูดอะไร Google ระงับ Lemoine หลังจากที่วิศวกรจ้างทนายความให้กับ LaMDA และเริ่มพูดคุยกับคณะกรรมการตุลาการของสภาผู้แทนราษฎรเกี่ยวกับแนวทางปฏิบัติของบริษัท Lemoine อ้างว่า Google เลือกปฏิบัติต่อเขาเนื่องจากศาสนาของเขา
อย่างไรก็ตาม ความเชื่อของ Lemoine ได้จุดชนวนให้เกิดการโต้เถียงครั้งสำคัญ และเป็นการย้ำเตือนอย่างยิ่งว่าเมื่อ AI ก้าวหน้าขึ้น ผู้คนจะเกิดแนวคิดใหม่ๆ มากมายเกี่ยวกับสิ่งที่เทคโนโลยีกำลังทำอยู่ และสิ่งที่บ่งบอกถึงพวกเขา
ลงทะเบียนเพื่อรับจดหมายข่าวถอดรหัส
รับสิ่งที่ดีที่สุดจากการรายงานที่จำเป็นของ Recode เกี่ยวกับข่าวเทคโนโลยีและธุรกิจ
อีเมล์(จำเป็น)
การส่งอีเมลแสดงว่าคุณยอมรับข้อกำหนดและประกาศความเป็นส่วนตัวของเรา คุณสามารถยกเลิกได้ตลอดเวลา ไซต์นี้ได้รับการคุ้มครองโดย reCAPTCHA และเป็นไปตามนโยบายความเป็นส่วนตัว ของ Google และข้อกำหนดในการให้บริการ สำหรับจดหมายข่าวเพิ่มเติม โปรดดูที่หน้าจดหมายข่าวของ เรา
ติดตาม
“เนื่องจากเป็นเครื่องจักร เราจึงไม่ค่อยพูดว่า ‘เป็นเรื่องปกติที่สิ่งนี้จะเกิดขึ้น’” สกอตต์ มิดสัน ศาสตราจารย์ด้านศิลปศาสตร์จากมหาวิทยาลัยแมนเชสเตอร์ ผู้ศึกษาเทววิทยาและมรณกรรมบอกกับเรโคด “เราเกือบจะข้ามไปที่สิ่งเหนือธรรมชาติ เวทมนตร์ และศาสนา”
เป็นเรื่องที่ควรค่าแก่การชี้ให้เห็นว่า Lemoine
นั้นแทบจะไม่ใช่บุคคลแรกใน Silicon Valley ที่อ้างสิทธิ์เกี่ยวกับปัญญาประดิษฐ์ซึ่งอย่างน้อยก็ฟังดูเคร่งศาสนา Ray Kurzweil นักวิทยาศาสตร์คอมพิวเตอร์และนักอนาคตนิยมที่มีชื่อเสียง ได้ส่งเสริม “ภาวะเอกฐาน” มานานแล้ว ซึ่งเป็นแนวคิดที่ว่า AI จะเอาชนะมนุษย์ได้ในที่สุด และในที่สุดมนุษย์ก็สามารถผสานเข้ากับเทคโนโลยีได้ Anthony Levandowski ผู้ร่วมก่อตั้ง Waymo บริษัทสตาร์ทอัพรถยนต์ไร้คนขับของ Google ได้เริ่มต้นWay of the Futureซึ่งเป็นโบสถ์ที่อุทิศให้กับปัญญาประดิษฐ์ทั้งหมดในปี 2015 (โบสถ์ถูกยุบในปี 2020) แม้แต่ผู้นับถือศาสนาดั้งเดิมบางคนก็เริ่มใช้ AIรวมถึงหุ่นยนต์ที่ให้พรและคำแนะนำ
In early morning darkness, a long line of people, several children among them, wait by a tall brown wall outdoors, while uniformed Border Patrol officers talk to those in the front.
ในแง่ดี เป็นไปได้ที่บางคนจะพบความสบายใจและปัญญาที่แท้จริงจากคำตอบที่ได้จากปัญญาประดิษฐ์ แนวคิดทางศาสนายังสามารถชี้นำการพัฒนา AI และบางทีอาจทำให้เทคโนโลยีมีจริยธรรม แต่ในขณะเดียวกัน ก็มีข้อกังวลจริงๆ ที่มากับการคิดว่า AI เป็นมากกว่าเทคโนโลยีที่มนุษย์สร้างขึ้น
ฉันเพิ่งคุยกับ Midson เกี่ยวกับข้อกังวลเหล่านี้ เขาบอกกับฉันว่าเราไม่เพียงแค่เสี่ยงต่อการทำให้ AI มีเสน่ห์และสูญเสียการมองเห็นข้อบกพร่องที่แท้จริงเท่านั้น แต่ยังช่วยให้ความพยายามของ Silicon Valley ในการโฆษณาเทคโนโลยีที่ยังคงซับซ้อนน้อยกว่าที่ปรากฏอยู่มาก บทสัมภาษณ์นี้ได้รับการแก้ไขเพื่อความชัดเจนและความยาว
รีเบคก้า ไฮล์ไวล์
มาเริ่มกันที่เรื่องใหญ่ที่ออกมาจาก Google เมื่อสองสามสัปดาห์ก่อน เป็นเรื่องธรรมดาแค่ไหนที่คนที่มีทัศนะทางศาสนาเชื่อว่า AI หรือเทคโนโลยีมีจิตวิญญาณ หรือว่าเป็นอะไรที่มากกว่าแค่เทคโนโลยี
สกอตต์ มิดสัน
ในขณะที่เรื่องนี้ฟังดูน่าประหลาดใจจริงๆ — แนวคิดเรื่องศาสนาและเทคโนโลยีมารวมกัน — ประวัติศาสตร์ช่วงแรกๆ ของเครื่องจักรและศาสนาเหล่านี้จริง ๆ แล้วทำให้แนวคิดเรื่องแรงจูงใจทางศาสนาในคอมพิวเตอร์และเครื่องจักรเป็นเรื่องธรรมดามากขึ้น
หากเราย้อนกลับไปในยุคกลาง ยุคกลาง มีออโตมาตะซึ่งโดยทั่วไปแล้วเป็นอุปกรณ์เคลื่อนที่ได้เอง มีออโตมาตะตัวหนึ่งโดยเฉพาะ พระจักรกล ซึ่งได้รับการออกแบบมาโดยเฉพาะเพื่อส่งเสริมให้ผู้คนไตร่ตรองถึงความซับซ้อนของการทรงสร้างของพระเจ้า การเคลื่อนไหวของมันถูกออกแบบมาเพื่อเรียกร้องความเคารพทางศาสนานั้น ในขณะนั้น โลกถูกมองว่าเป็นกลไกที่ซับซ้อน และพระเจ้าเป็นผู้ออกแบบเครื่องจักรขนาดใหญ่
กระโดดจากพระจักรกลไปสู่พระจักรกลประเภทอื่น:
เมื่อเร็ว ๆ นี้ คริสตจักรเยอรมันในเฮสส์และแนสซอได้สร้าง BlessU-2 เพื่อรำลึกถึงการครบรอบ 500 ปีของการปฏิรูป โดยพื้นฐานแล้ว BlessU-2 นั้นเป็นเครื่องกดเงินสดที่น่ายกย่องที่จะแจกจ่ายพรและขยับแขนและมีสิ่งของขนาดใหญ่ทางศาสนาและเป็นพิธีกรรม มีปฏิกิริยาผสมกันมากมาย โดยเฉพาะอย่างยิ่งหญิงชราคนหนึ่งที่บอกว่าพรที่เธอได้รับจากหุ่นยนต์ตัวนี้มีความหมายจริงๆ มันเป็นสิ่งที่มีความสำคัญต่อเธอโดยเฉพาะ และเธอกำลังพูดว่า “จริงๆ แล้ว มีบางอย่างกำลังเกิดขึ้นที่นี่ บางอย่างที่ฉันไม่สามารถอธิบายได้”
รีเบคก้า ไฮล์ไวล์
ในโลกของ Silicon Valley และพื้นที่เทคโนโลยี มีคำกล่าวอ้างที่คล้ายกันอีกประเภทใดบ้างที่ปรากฏขึ้น
สกอตต์ มิดสัน
สำหรับบางคน โดยเฉพาะอย่างยิ่งใน Silicon Valley มีโฆษณาและเงินจำนวนมากที่สามารถเชื่อมโยงกับคำกล่าวอ้างที่ยิ่งใหญ่เช่น “AI ของฉันมีสติ” มันทำให้ความสนใจเป็นอย่างมาก มันกระตุ้นจินตนาการของผู้คนจำนวนมากได้อย่างแม่นยำเพราะศาสนามีแนวโน้มที่จะเกินกว่าที่เราจะอธิบายได้ มันคือความผูกพันที่เหนือธรรมชาติ
มีผู้คนมากมายที่เต็มใจจะจุดไฟของการสนทนาเหล่านี้เพื่อรักษาความกระฉับกระเฉง ฉันคิดว่าสิ่งหนึ่งที่ค่อนข้างอันตรายคือการที่โฆษณานั้นไม่ถูกตรวจสอบ
รีเบคก้า ไฮล์ไวล์
บ่อยครั้ง ฉันจะพูดคุยกับ Alexa หรือ Siri และถามคำถามสำคัญๆ ในชีวิต ตัวอย่างเช่น หากคุณถาม Siri ว่าพระเจ้ามีจริงหรือไม่ บ็อตจะตอบว่า “สำหรับฉันมันเป็นความลึกลับทั้งหมด” นอกจากนี้ยังมีตัวอย่างล่าสุดของนักข่าวคนหนึ่งที่ถาม GPT-3ซึ่งเป็นแบบจำลองภาษาที่สร้างขึ้นโดยห้องปฏิบัติการวิจัย AI OpenAI เกี่ยวกับศาสนายิว และเห็นว่าคำตอบของศาสนายิวนั้นดีเพียงใด บางครั้งคำตอบจากเครื่องจักรเหล่านี้ดูเหมือนไร้สาระ แต่บางครั้งคำตอบก็ดูฉลาดจริงๆ ทำไมถึงเป็นอย่างนั้น?
สกอตต์ มิดสัน
Joseph Weizenbaum ออกแบบ Eliza ซึ่งเป็นแชทบ็อตเครื่องแรกของโลก Weizenbaum ได้ทำการทดลองกับ Eliza ซึ่งเป็นเพียงแชทบ็อตพื้นฐาน ซึ่งเป็นซอฟต์แวร์ประมวลผลภาษา Eliza ได้รับการออกแบบมาเพื่อเลียนแบบนักจิตอายุรเวทของ Rogerian ดังนั้นโดยทั่วไปแล้วที่ปรึกษาทั่วไปของคุณ Weizenbaum ไม่ได้บอกผู้เข้าร่วมว่าพวกเขากำลังคุยกับเครื่อง แต่มีคนบอกว่าคุณกำลังจะโต้ตอบผ่านคอมพิวเตอร์กับนักบำบัดโรค ผู้คนจะพูดว่า “ฉันรู้สึกเสียใจกับครอบครัวของฉันมาก” จากนั้นเอลิซาก็จะหยิบคำว่า “ครอบครัว” ขึ้นมา มันจะหยิบขึ้นมาในบางส่วนของประโยคแล้วเกือบจะโยนกลับเป็นคำถาม เพราะนั่นคือสิ่งที่เราคาดหวังจากนักบำบัด ไม่มีความหมายที่เราคาดหวังจากพวกเขา มันคือหน้าจอสะท้อนแสงนั้น
นักข่าว Recode ได้สนทนาสั้นๆ กับการสร้างแชทบ็อตของ Eliza ใหม่ที่มีอยู่บนเว็บ ภาพหน้าจอ
เรามีซอฟต์แวร์ AI ที่ซับซ้อนกว่านี้อีกมาก ซอฟต์แวร์ที่สามารถกำหนดบริบทของคำในประโยคได้ เทคโนโลยี LaMDA ของ Google มีความซับซ้อนอย่างมาก ไม่ใช่แค่การมองหาคำง่ายๆ ในประโยค สามารถค้นหาคำตามบริบทในโครงสร้างและการตั้งค่าประเภทต่างๆ ดังนั้นมันจึงทำให้คุณรู้สึกว่ามันรู้ว่ามันกำลังพูดถึงอะไร ประเด็นสำคัญประการหนึ่งเกี่ยวกับการสนทนารอบแชทบอทคือ คู่สนทนา — เครื่องที่เรากำลังคุยด้วย — เข้าใจสิ่งที่กำลังพูดอย่างแท้จริงมากแค่ไหน?
รีเบคก้า ไฮล์ไวล์
มีตัวอย่างของบอทที่ไม่ได้ให้คำตอบที่ดีเป็นพิเศษหรือไม่?
สกอตต์ มิดสัน
มีข้อควรระวังมากมายเกี่ยวกับสิ่งที่เครื่องเหล่านี้ทำและไม่ทำ ทั้งหมดเกี่ยวกับวิธีที่พวกเขาโน้มน้าวคุณว่าพวกเขาเข้าใจและเรื่องเหล่านั้น Noel Sharkeyเป็นนักทฤษฎีที่โดดเด่นในสาขานี้ เขาไม่ชอบหุ่นยนต์เหล่านี้ที่โน้มน้าวใจคุณจริงๆ ว่าพวกเขาทำได้มากกว่าที่พวกเขาทำได้จริงๆ เขาเรียกพวกเขาว่า “แสดงบอท” ตัวอย่างหลักอย่างหนึ่งที่เขาใช้แสดงบอทคือโซเฟีย หุ่นยนต์ที่ได้รับสถานะพลเมืองกิตติมศักดิ์ในซาอุดิอาระเบีย นี่เป็นมากกว่าแชทบอทพื้นฐานเพราะมันอยู่ในตัวหุ่นยนต์ คุณสามารถบอกได้อย่างชัดเจนว่าโซเฟียเป็นหุ่นยนต์ โดยไม่มีเหตุผลอื่นใดนอกจากความจริงที่ว่าด้านหลังศีรษะของมันคือเคสโปร่งใส และคุณสามารถเห็นสายไฟและสิ่งของทั้งหมดได้
สำหรับ Sharkey ทั้งหมดนี้เป็นเพียงภาพลวงตา นี่เป็นเพียงควันและกระจก โซเฟียไม่รับประกันสถานะบุคลิกภาพด้วยจินตนาการที่ยืดยาว มันไม่เข้าใจสิ่งที่มันพูด มันไม่มีความหวัง ความฝัน ความรู้สึก หรืออะไรก็ตามที่จะทำให้มันเป็นมนุษย์อย่างที่ปรากฏ ความจริงก็คือการหลอกคนเป็นปัญหา มันมีวลีที่แกว่งไปมามากมาย บางครั้งมันทำงานผิดปกติหรือพูดสิ่งที่น่าสงสัยทำให้ขมวดคิ้ว แต่ถึงแม้จะโปร่งใสที่สุด เราก็ยังคงดำเนินไปพร้อมกับภาพลวงตาในระดับหนึ่ง
มีหลายครั้งที่หุ่นยนต์มีสิ่งที่ “มันเป็นหุ่นเชิดบนเชือก” มันไม่ได้ทำสิ่งที่เป็นอิสระมากเท่าที่เราคิด นอกจากนี้เรายังมีหุ่นยนต์ที่จะรับรอง หุ่นยนต์ Pepperไปรับรองรัฐบาลเกี่ยวกับ AI เป็นการประชุมรับฟังหลักฐานของสภาขุนนาง และดูเหมือนเปปเปอร์กำลังพูดเพื่อตนเองและพูดทุกสิ่ง มันถูกตั้งโปรแกรมไว้ล่วงหน้าทั้งหมด และนั่นก็ไม่ได้โปร่งใสสำหรับทุกคน และอีกครั้ง มันคือความเข้าใจผิดนั้น การจัดการโฆษณาที่ฉันคิดว่าเป็นปัญหาใหญ่
รีเบคก้า ไฮล์ไวล์
มันทำให้ฉันนึกถึงฉากนั้นจากThe Wizard of Ozซึ่งในที่สุดพ่อมดตัวจริงก็ถูกเปิดเผย บทสนทนาว่า AI นั้นสัมพันธ์กับการสนทนาที่สำคัญอื่น ๆ ที่เกิดขึ้นเกี่ยวกับ AI หรือไม่?
สกอตต์ มิดสัน
Microsoft Tay เป็นแชทบอทอีกตัวที่ส่งออกไปยัง Twitter และมีอัลกอริธึมของเครื่องที่จะเรียนรู้จากการโต้ตอบกับผู้คนใน Twittersphere ปัญหาคือ Tay ถูกล้อเลียนและต้องดึงออกจาก Twitter ภายใน 16 ชั่วโมงเพราะเป็นการเกลียดผู้หญิง รักร่วมเพศ และเหยียดผิว
วิธีที่หุ่นยนต์เหล่านี้ – ไม่ว่าจะมีความรู้สึกหรือไม่ก็ตาม
– สร้างขึ้นอย่างมากในภาพลักษณ์ของเรานั้นเป็นประเด็นทางจริยธรรมขนาดใหญ่อีกชุดหนึ่ง อัลกอริทึมจำนวนมากจะได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูลที่เป็นมนุษย์ทั้งหมด พวกเขาพูดถึงประวัติศาสตร์ของเรา ปฏิสัมพันธ์ของเรา และพวกเขามีความลำเอียงโดยเนื้อแท้ มีการสาธิตอัลกอริธึมที่มีอคติบนพื้นฐานของเชื้อชาติ
คำถามความรู้สึก? ฉันเห็นว่ามันเป็นปลาเฮอริ่งแดงเล็กน้อย แต่จริงๆ แล้ว มันยังเชื่อมโยงกับวิธีที่เราสร้างเครื่องจักรในภาพของเรา และสิ่งที่เราทำกับภาพนั้น
รีเบคก้า ไฮล์ไวล์
Timnit Gebru และ Margaret Mitchell นักวิจัยด้านจริยธรรม AI ที่โดดเด่นสองคน ได้หยิบยกข้อกังวลนี้ก่อนที่ทั้งคู่จะถูกไล่ออกจาก Google: การคิดถึงการอภิปรายเกี่ยวกับความรู้สึกและ AI เป็นสิ่งที่อิสระ เราอาจพลาดความจริงที่ว่า AI นั้นสร้างขึ้นโดยมนุษย์
สกอตต์ มิดสัน
เราเกือบจะเห็นเครื่องจักรในลักษณะหนึ่ง แยกออก หรือแม้แต่เหมือนพระเจ้าในบางแง่มุม กลับไปที่กล่องดำนั่น มีบางอย่างที่เราไม่เข้าใจ มันเหมือนศาสนา มันอัศจรรย์ มีศักยภาพที่เหลือเชื่อ ถ้าเราดูโฆษณาเกี่ยวกับเทคโนโลยีเหล่านี้ทั้งหมด จะช่วยเรา แต่ถ้าเราเห็นแบบแยกส่วนแบบนั้น ถ้าเห็นว่าเป็นเหมือนพระเจ้า สิ่งนั้นจะหนุนใจเราอย่างไร?เซ็กซี่บาคาร่า / ซีรี่ย์จีนพากย์ไทย
