ดร. ฮินตัน เป็นผู้บุกเบิกงานวิจัยเกี่ยวกับโครงข่ายประสาทเทียมและการเรียนรู้เชิงลึก (neural networks and deep learning) ซึ่งต่อยอดมาสู่ระบบ AI ที่เรารู้จักกันในปัจจุบัน เช่น Bard chatbot ของ Google และ ChatGPT ของ Microsoft
ในการให้สัมภาษณ์กับ New York Times ดร. ฮินตันกล่าวว่าตอนนี้เขารู้สึกเสียใจกับงาน จึงเป็นเหตุให้ต้องลาออกจาก Google สิ่งที่น่ากังวลคือ AI จะปล่อยข้อมูลผิดๆ ออกมามามายบนโลกอินเตอร์เน็ต
Google แสดงความเห็นต่อข้อกังวลนี้ว่า กูเกิ้ลให้คำมั่นว่าการใช้ AI อยู่บนสำนึกความรับผิดชอบต่อสังคม
AI เรียนรู้อย่างไร และจะฉลาดกว่าอย่างไร
ดร.ฮินตันบอกกับบีบีซี ว่าระบบเหล่านี้เรียนรู้อะไรมากมายได้อย่างไร
ระบบปัญญาที่เราพัฒนาขึ้น แตกต่างจากปัญญาความฉลาด (แบบมนุษย์) ที่เรามี เรา (มนุษย์) เป็นระบบชีวภาพ แต่นั่น (ระบบปัญญาประดิษฐ์) เป็นระบบดิจิทัล ความแตกต่างที่สำคัญคือ ระบบดิจิทัลเป็นระบบชุดข้อมูลที่ประกอบด้วยแบบจำลองของโลกอันเป็นพื้นฐานลักษณะเดียวกัน แต่แตกต่างกันไปในหลายๆ แบบ (เพื่อการเรียนรู้ในสิ่งต่างๆ ที่แตกต่างกันไป) และเมื่อระบบชุดข้อมูลเหล่านี้ เรียนรู้สิ่งใด จะสามารถแบ่งปันความรู้ระหว่างกันได้ทันที อุปมาเหมือนกับมีคนอยู่หมื่นคน ต่างคนต่างเรียนรู้ เมื่อคนๆ หนึ่งเรียนรู้บางสิ่ง ทุกคนก็จะรู้ได้โดยอัตโนมัติ
"นั่นเป็นวิธีการที่ระบบแชทเหล่านี้สามารถที่จะรู้ได้มากกว่าใครๆ "
นอกจากนี้ ดร.ฮินตันยังบอกบีบีซีว่าความก้าวหน้าอย่างรวดเร็วนั้นน่าเป็นห่วงอย่างยิ่ง
"ตอนนี้สิ่งที่เราเห็นคือสิ่งต่างๆ เช่น GPT-4 เริ่มค่อยๆ ลดทอนทำให้ลดความสำคัญ (eclipse) ของบุคคลลง ตามระดับความรู้ทั่วไปที่มีและจะเป็นเช่นนี้ต่อเนื่องไปอีกนาน ถ้ามองในแง่ของการใช้เหตุผล มันยังไม่ดีเท่า (มนุษย์) เพราะมันเพียงแค่ให้เหตุผลง่ายๆ สิ่งที่น่ากังวลก็คือ ความคาดหวังของเราที่อยากให้มันฉลาดขึ้นเร็วๆ ต่างหาก สำหรับตอนนี้ ผมบอกได้ว่า พวกมันยังไม่ได้ฉลาดไปกว่าเรา แต่อนาคตมันทำได้แน่
เรื่องนี้เร่งด่วนกว่าโลกร้อน
งานของ Hinton ถือว่ามีความสำคัญต่อการพัฒนาระบบ AI ร่วมสมัย ในปี พ.ศ. 2529 เขาได้ร่วมเขียนบทความเรื่อง "การเรียนรู้การแทนค่าโดยข้อผิดพลาดในการแพร่กระจายย้อนกลับ (Learning representations by back-propagating errors)" ซึ่งเป็นก้าวสำคัญในการพัฒนาโครงข่ายประสาทเทียมภายใต้เทคโนโลยี AI ในปี 2018 เขาได้รับรางวัล Turing Award จากผลงานการวิจัยชิ้นใหม่ของเขา
แต่ตอนนี้เขาเป็นหนึ่งในผู้นำด้านเทคโนโลยีที่เพิ่มมากขึ้นเรื่อยๆ ที่ออกมาเปิดเผยข้อกังวลต่อสาธารณะเกี่ยวกับภัยคุกคามที่อาจเกิดขึ้นจาก AI หากเครื่องจักรมีความฉลาดมากกว่ามนุษย์และเข้าควบคุมโลก
"ผมไม่อยากด้อยค่าเรื่องของการเปลี่ยนแปลงสภาพภูมิอากาศ ผมไม่อยากพูดว่า "คุณไม่ควรกังวลเกี่ยวกับการเปลี่ยนแปลงสภาพภูมิอากาศ" นั่นเป็นความเสี่ยงอย่างมากเช่นกัน” ฮินตันกล่าว
"แต่ผมคิดว่าเรื่องนี้เร่งด่วนมากกว่า"
เขาเสริมว่า: "ด้วยการเปลี่ยนแปลงของสภาพอากาศ มันง่ายมากที่จะแนะนำสิ่งที่คุณควรทำ: คุณแค่หยุดเผาคาร์บอน ถ้าคุณทำอย่างนั้น ในที่สุดสิ่งต่างๆ ก็จะดีขึ้น แต่กับเรื่อง AI นี้ มันไม่ชัดเจนว่าคุณควรทำอะไร"
OpenAI ที่ได้รับการสนับสนุนจาก Microsoft จุดพลุการแข่งขันทางเทคโนโลยีด้านนี้ในเดือนพฤศจิกายน เมื่อเปิดตัวแชทบอท ChatGPT ที่ขับเคลื่อนด้วย AI สู่สาธารณะ และในเวลาเพียง 2 เดือน แอปนี้ก็มีผู้ใช้ถึงแตะ 100 ล้านคนต่อเดือน กลายเป็นแอปที่เติบโตเร็วที่สุดในประวัติศาสตร์ไป
ในเดือนเมษายน Elon Musk ซีอีโอของ Twitter ได้ร่วมกับคนหลายพันคน ลงนามในจดหมายเปิดผนึกเพื่อเรียกร้องให้หยุดการพัฒนาระบบชั่วคราว 6 เดือน คนดังที่ร่วมลงนาม ได้แก่ Emad Mostaque CEO ของ Stability AI นักวิจัยของ DeepMind ที่ Alphabet เป็นเจ้าของ และเพื่อนผู้บุกเบิก AI Yoshua Bengio และ Stuart Russell
ด้านดร.ฮินตัน ไม่เห็นด้วยกับการหยุดการวิจัยเพียงชั่วคราว
"มันไม่สมจริงเลย" เขากล่าว "ผมอยู่ในฝั่งที่บอกได้ว่า AI เป็นความเสี่ยงที่มีอยู่จริง และใกล้ตัวเรามากแล้ว มากพอที่เราต้องทำอะไรสักอย่างในตอนนี้ ต้องทุ่มทรัพยากรที่มี เพื่อค้นหาสิ่งที่เราต้องทำเกี่ยวกับเรื่องนี้"
ในสหภาพยุโรป คณะกรรมการฝ่ายนิติบัญญัติสนองตอบจดหมายเปิดผนึกที่ อีลอน มัสก์ ให้การสนับสนุนจาก โดยเรียกร้องให้ประธานาธิบดี โจ ไบเดน ของสหรัฐฯ จัดประชุมสุดยอดระดับโลกเกี่ยวกับทิศทางในอนาคตของเทคโนโลยีกับร่วมกับ เออซูล่า วอน เดอ เลเยน (Ursula von der Leyen) ประธานคณะกรรมาธิการยุโรป
เมื่อสัปดาห์ที่แล้ว คณะกรรมการยุโรปเห็นชอบกับข้อเสนอที่มุ่งเป้าไปที่เจเนอเรทีฟ เอไอ (generative AI) ซึ่งจะบังคับให้บริษัทต่างๆ เช่น OpenAI เปิดเผยเนื้อหาลิขสิทธิ์ใดๆ ที่ใช้ในการฝึกโมเดลของตน
ในขณะเดียวกันประธานาธิบดี โจ ไบเดน ได้จัดประชุมพูดคุยกับผู้นำบริษัท AI จำนวนหนึ่ง รวมถึง Sundar Pichai CEO ของ Alphabet และ Sam Altman CEO ของ OpenAI ที่ทำเนียบขาว โดยสัญญาว่าจะมีการ "อภิปรายอย่างตรงไปตรงมาและสร้างสรรค์" เกี่ยวกับความจำเป็นที่บริษัทต่างๆ จะต้องมีความโปร่งใสมากขึ้นเกี่ยวกับระบบของตน
"ผู้นำเทคโนโลยีมีความเข้าใจในเรื่องนี้ดีที่สุด และนักการเมืองต้องมีส่วนร่วม" ฮินตันกล่าว "มันส่งผลกระทบต่อเราทุกคน ดังนั้น เราทุกคนต้องคิดถึงเรื่องนี้"
[
Reuters]
AI สามารถฆ่ามนุษย์ได้และอาจไม่มีทางหยุดมันได้
ดร.ฮินตัน เคยอธิบายไว้ในการสัมภาษณ์กับ
CNN ว่า AI จะฆ่าคนได้อย่างไร ว่า
เมื่อ AI ไปถึงขั้นที่เรียกว่า ฉลาดกว่ามนุษย์เรา มันจะบงการเราได้ทุกอย่าง เพราะมันเรียนรู้ไปจากเราว่า สิ่งที่ฉลาดกว่าถูกควบคุมโดยสิ่งที่ฉลาดน้อยกว่า และรู้วิธีการตั้งโปรแกรมเพื่อให้สามารถหาวิธีหลีกเลี่ยงข้อจำกัดที่เราวางไว้ มันสามารถหาวิธีชักใยผู้คนให้ทำในสิ่งที่มันต้องการได้
และเมื่อมีคำถามว่าจะแก้หรือทำอย่างไร เขาตอบว่า
"สำหรับผม ไม่ชัดเจนว่าเราสามารถแก้ปัญหานี้ได้ ผมเชื่อว่าเราต้องทุ่มความพยายามอย่างมากในการคิดหาวิธีแก้ปัญหา ผมเองก็ไม่มีคำตอบ ผมแค่ต้องการให้ผู้คนตระหนักว่านี่เป็นปัญหาที่ร้ายแรงจริงๆ และเราต้องคิดเกี่ยวกับเรื่องนี้อย่างจริงจัง ผมไม่คิดว่าเราจะหยุดการพัฒนาได้ ผมเองไม่เคยลงนามข้อเรียกร้องใดๆ ว่าจะหยุดทำงานด้าน AI เพราะถึงคนในอเมริกาหยุด แต่คนในจีนจะไม่หยุด เป็นการยากที่จะตรวจสอบว่าใครทำอะไรไปบ้าง
