Center for AI Safety - CAIS เป็นใคร
CAIS ระบุถึงปรัชญาองค์กรไว้ว่า "เป็นองค์กรไม่แสวงผลกำไรด้านความปลอดภัยของ AI ภารกิจของเราคือการลดความเสี่ยงในระดับสังคมจากปัญญาประดิษฐ์"
CAIS เป็นกลุ่มคนที่รวมตัวกัน ด้วยตระหนักว่าเอไอเป็นภัยต่อมนุษยโลก (มนุษย์และสังคมโลก) ในฐานกลุ่มคนที่มีความรู้ความเชี่ยวชาญและใช้ประโยชน์ตลอดจนได้ประโยชน์จากปัญญาประดิษฐ์ จึงจำเป็นที่จะต้องมีหลักการและหลักเกณฑ์ในการใช้ปัญญาประดิษฐ์
กลุ่มมองว่าความเสี่ยงจากเอไอ ควรถูกยกระดับความตระหนักขึ้นมาเทียบเท่ากับภัยโรคระบาดหรือภัยจากสงครามนิวเคลียร์ ด้วยเหตุที่เงื่อนไขความปลอภัยจากการใช้เอไอนั้นยังไม่ได้ถูกให้ความสำคัญ เรียกได้ว่าถึงขั้นละเลยเลยก็ว่าได้ สวนทางกับความก้าวหน้าที่พัฒนาพุ่งเร็วเกินยับยั้ง กลไกการจัดการรับมือกับการมาของเอไอในสังคมนั้นเป็นศูนย์ CAIS จึงเกิดขึ้นและประสงค์จะมีบทบาทนำต่อผู้กำหนดนโยบาย ผู้นำภาคธุรกิจ และทุกภาคส่วนทั่วโลก ให้เข้าใจและเครื่องมือที่จำเป็นในการจัดการกับความเสี่ยงจากเอไอ
บทบาทหน้าที่ CAIS
CAIS เสนอกรอบมาตราการที่จะลดความเสี่ยงระดับสังคมลงมา ผ่านข้อมูลจากการค้นคว้าวิจัย (Research) สร้างระบบนิเวศการวิจัย (Field-building) และสร้างความตระหนัก (Advocacy)
Research
CAIS ดำเนินการวิจัยโดยมุ่งเน้นเฉพาะไปที่การปรับปรุงความปลอดภัยของ AIs ผ่านการริเริ่มการวิจัยที่มุ่งระบุและจัดการกับปัญหาด้านความปลอดภัยของ AI ก่อนที่จะกลายเป็นข้อกังวลที่สำคัญ
สิ่งที่ทำ
- ระบุและกำจัดพฤติกรรมอันตรายใน AIs
- ศึกษาพฤติกรรมที่หลอกลวง ชอบกล และผิดจรรยาบรรณอื่นๆ ใน AI
- อบรม AIs ให้ประพฤติตนอยู่ในทำนองคลองธรรม
- การปรับปรุงความน่าเชื่อถือของ AI
- ปรับปรุงความปลอดภัยของ AIs
Field-building
CAIS ขยายสาขาการวิจัยด้านความปลอดภัยของ AI ผ่านการระดมทุน โครงสร้างพื้นฐานการวิจัย และทรัพยากรด้านการศึกษา เรามุ่งสร้างระบบนิเวศการวิจัยที่ล้ำหน้าซึ่งจะขับเคลื่อนความก้าวหน้าไปสู่ AI ที่ปลอดภัย
สิ่งที่ทำ
- จัดหานักวิจัยชั้นนำด้วยโครงสร้างพื้นฐานด้านคอมพิวเตอร์และทางเทคนิค
- ดำเนินโครงการทุนสหสาขาวิชาชีพที่เน้นเรื่องความปลอดภัยของ AI
- การเชื่อมต่อกับชุมชนการวิจัยทั่วโลก
- จัดการแข่งขันและการประชุมเชิงปฏิบัติการ
- การสร้างสื่อการศึกษา
Advocacy
CAIS ให้คำแนะนำแก่ผู้นำในอุตสาหกรรม ผู้กำหนดนโยบาย และห้องปฏิบัติการอื่นๆ เพื่อนำการวิจัยด้านความปลอดภัยของ AI มาสู่โลกแห่งความเป็นจริง เรามุ่งมั่นที่จะสร้างความตระหนักรู้และกำหนดแนวทางสำหรับการใช้งาน AI ที่ปลอดภัยและมีความรับผิดชอบ
สิ่งที่ทำ
- สร้างความตระหนักแก่สาธารณชนเกี่ยวกับความเสี่ยงและความปลอดภัยของ AI
- ให้ความเชี่ยวชาญทางเทคนิคเพื่อแจ้งการกำหนดนโยบายในหน่วยงานของรัฐ
- ให้คำปรึกษาแก่ผู้นำในอุตสาหกรรมเกี่ยวกับโครงสร้างและแนวทางปฏิบัติเพื่อจัดลำดับความสำคัญของความปลอดภัยของ AI
เรียนรู้เพิ่มเติม เกี่ยวกับบทบาท CAIS ผ่าน
FAQ
รายนามผู้ร่วมลงนามบางส่วน
Geoffrey Hinton
Emeritus Professor of Computer Science, University of Toronto
Yoshua Bengio
Professor of Computer Science, U. Montreal / Mila
Demis Hassabis
CEO, Google DeepMind
Sam Altman
CEO, OpenAI
Dario Amodei
CEO, Anthropic
Dawn Song
Professor of Computer Science, UC Berkeley
Ya-Qin Zhang
Professor and Dean, AIR, Tsinghua University
Ilya Sutskever
Co-Founder and Chief Scientist, OpenAI
Shane Legg
Chief AGI Scientist and Co-Founder, Google DeepMind
Martin Hellman
Professor Emeritus of Electrical Engineering, Stanford
James Manyika
SVP, Research, Technology & Society, Google-Alphabet
Yi Zeng
Professor and Director of Brain-inspired Cognitive AI Lab, Institute of Automation, Chinese Academy of Sciences
Xianyuan Zhan
Assistant Professor, Tsinghua University
Anca Dragan
Associate Professor of Computer Science, UC Berkeley
Bill McKibben
Schumann Distinguished Scholar, Middlebury College
Alan Robock
Distinguished Professor of Climate Science, Rutgers University
Angela Kane
Vice President, International Institute for Peace, Vienna; former UN High Representative for Disarmament Affairs
Audrey Tang
Minister of Digital Affairs and Chair of National Institute of Cyber Security
Daniela Amodei
President, Anthropic
David Silver
Professor of Computer Science, Google DeepMind and UCL
Lila Ibrahim
COO, Google DeepMind
Stuart Russell
Professor of Computer Science, UC Berkeley
Marian Rogers Croak
VP Center for Responsible AI and Human Centered Technology, Google
Andrew Barto
Professor Emeritus, University of Massachusetts
Mira Murati
CTO, OpenAI
Jaime Fernández Fisac
Assistant Professor of Electrical and Computer Engineering, Princeton University
Diyi Yang
Assistant Professor, Stanford University
Gillian Hadfield
Professor, CIFAR AI Chair, University of Toronto, Vector Institute for AI
Laurence Tribe
University Professor Emeritus, Harvard University
Pattie Maes
Professor, Massachusetts Institute of Technology - Media Lab
Kevin Scott
CTO, Microsoft
Eric Horvitz
Chief Scientific Officer, Microsoft
Peter Norvig
Education Fellow, Stanford University
Atoosa Kasirzadeh
Assistant Professor, University of Edinburgh, Alan Turing Institute
Erik Brynjolfsson
Professor and Senior Fellow, Stanford Institute for Human-Centered AI
Mustafa Suleyman
CEO, Inflection AI
Emad Mostaque
CEO, Stability AI
Ian Goodfellow
Principal Scientist, Google DeepMind
John Schulman
Co-Founder, OpenAI
Kersti Kaljulaid
Former President of the Republic of Estonia
David Haussler
Professor and Director of the Genomics Institute, UC Santa Cruz
Stephen Luby
Professor of Medicine (Infectious Diseases), Stanford University
Ju Li
Professor of Nuclear Science and Engineering and Professor of Materials Science and Engineering, Massachusetts Institute of Technology
David Chalmers
Professor of Philosophy, New York University
Daniel Dennett
Emeritus Professor of Philosophy, Tufts University
Peter Railton
Professor of Philosophy at University of Michigan, Ann Arbor
Sheila McIlraith
Professor of Computer Science, University of Toronto
Victoria Krakovna
Research Scientist, Google DeepMind
Mary Phuong
Research Scientist, Google DeepMind
Lex Fridman
Research Scientist, MIT
Sharon Li
Assistant Professor of Computer Science, University of Wisconsin Madison
Phillip Isola
Associate Professor of Electrical Engineering and Computer Science, MIT
David Krueger
Assistant Professor of Computer Science, University of Cambridge
Jacob Steinhardt
Assistant Professor of Computer Science, UC Berkeley
Martin Rees
Professor of Physics, Cambridge University
He He
Assistant Professor of Computer Science and Data Science, New York University
David McAllester
Professor of Computer Science, TTIC
Vincent Conitzer
Professor of Computer Science, Carnegie Mellon University and University of Oxford
Bart Selman
Professor of Computer Science, Cornell University
Michael Wellman
Professor and Chair of Computer Science & Engineering, University of Michigan
Jinwoo Shin
KAIST Endowed Chair Professor, Korea Advanced Institute of Science and Technology
Dae-Shik Kim
Professor of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)
Frank Hutter
Professor of Machine Learning, Head of ELLIS Unit, University of Freiburg
Jaan Tallinn
Co-Founder of Skype
Adam D’Angelo
CEO, Quora, and board member, OpenAI
Simon Last
Cofounder & CTO, Notion
Dustin Moskovitz
Co-founder & CEO, Asana
Scott Aaronson
Schlumberger Chair of Computer Science, University of Texas at Austin
Max Tegmark
Professor, MIT, Center for AI and Fundamental Interactions
Bruce Schneier
Lecturer, Harvard Kennedy School
Martha Minow
Professor, Harvard Law School
Gabriella Blum
Professor of Human Rights and Humanitarian Law, Harvard Law
Kevin Esvelt
Associate Professor of Biology, MIT
Edward Wittenstein
Executive Director, International Security Studies, Yale Jackson School of Global Affairs, Yale University
Karina Vold
Assistant Professor, University of Toronto
Victor Veitch
Assistant Professor of Data Science and Statistics, University of Chicago
Dylan Hadfield-Menell
Assistant Professor of Computer Science, MIT
Samuel R. Bowman
Associate Professor of Computer Science, NYU and Anthropic
Mengye Ren
Assistant Professor of Computer Science, New York University
Shiri Dori-Hacohen
Assistant Professor of Computer Science, University of Connecticut
และอีกมากมาย ร่วมลงนามได้ที่
Sign the statement/a>
