Google, OpenAI, dan Anthropic sedang dalam proses untuk mendirikan sebuah badan yang akan menetapkan standar keselamatan bagi kecerdasan buatan (AI) generasi baru. Badan ini direncanakan sebagai organisasi yang dibentuk dan dikelola oleh industri, tanpa adanya pengawasan langsung dari pemerintah Amerika Serikat (AS). Menurut laporan dari The Information, organisasi ini ditargetkan untuk mulai beroperasi pada akhir 2026 atau awal 2027. Ketiga perusahaan teknologi tersebut sementara ini menggunakan nama Standards Authority for Frontier AI (SAFA) untuk badan ini.
Fokus pada AI Canggih
SAFA akan berfokus pada pengembangan AI "frontier", yaitu model AI yang paling mutakhir dengan kemampuan yang jauh lebih tinggi dibandingkan sistem generasi sebelumnya. Salah satu tanggung jawab utama badan ini adalah membantu dalam penetapan standar pengujian sebelum model AI diperkenalkan kepada publik. SAFA diharapkan dapat mendukung organisasi independen yang melakukan evaluasi terhadap model-model AI sebelum digunakan secara luas.
Badan ini juga akan merumuskan pedoman terkait pelaporan insiden keselamatan dan keamanan AI. Selain itu, SAFA akan menetapkan kualifikasi yang harus dipenuhi oleh auditor independen yang bertugas menilai model dan perusahaan pengembang AI. Ketiga perusahaan juga sedang membahas kemungkinan agar SAFA tidak hanya bertugas menetapkan standar, tetapi juga ikut melakukan pengujian keselamatan dan kemampuan model AI. Diskusi ini muncul karena beberapa anggota kelompok kerja merasa bahwa Center for AI Standards and Innovation (CAISI), lembaga yang saat ini menangani pengujian tersebut, belum memiliki sumber daya yang memadai untuk menguji semua model AI frontier secara menyeluruh.
Regulasi AI di AS yang Masih Belum Jelas
Pembentukan SAFA ini muncul setelah beberapa bulan diskusi antara Google, OpenAI, dan Anthropic mengenai standar keselamatan AI. Sebelumnya, CEO Google DeepMind, Demis Hassabis, telah mengusulkan pembentukan badan standar AI yang mirip dengan Financial Industry Regulatory Authority (FINRA) di sektor keuangan AS. Usulan awal tersebut melibatkan pengawasan dari pemerintah AS, namun kemitraan antara pemerintah dan industri tidak menunjukkan kemajuan selama pemerintahan Presiden Donald Trump.
Oleh karena itu, ketiga perusahaan kini mendorong model organisasi yang dapat beroperasi secara independen. Meskipun demikian, beberapa pihak yang terlibat dalam pembicaraan tersebut menyatakan bahwa hubungan dengan pemerintah AS masih bisa dibangun di masa mendatang. Chris Lehane, Kepala Kebijakan Global OpenAI, juga mengonfirmasi bahwa ketiga perusahaan telah berdiskusi tentang keselamatan AI selama beberapa pekan terakhir. Menurutnya, mereka tidak memerlukan pengecualian khusus dari aturan antimonopoli untuk berkolaborasi dalam isu keselamatan AI.
Namun, rencana ini menghadapi sejumlah tantangan, terutama karena badan yang akan menetapkan standar keselamatan ini dibentuk oleh perusahaan-perusahaan yang produknya akan diuji. The Information melaporkan bahwa SAFA mungkin akan tumpang tindih dengan beberapa organisasi dan inisiatif yang sudah ada, termasuk CAISI dan Frontier Model Forum, yang merupakan organisasi nirlaba yang didirikan pada 2023 oleh Google, OpenAI, Anthropic, dan Microsoft untuk mendorong pengembangan AI yang aman dan bertanggung jawab.
Belum ada kepastian apakah perusahaan lain seperti Meta dan pengembang model AI open source akan menjadi bagian dari SAFA atau tidak. Salah satu pertanyaan yang masih dibahas adalah bagaimana menentukan model AI yang termasuk dalam kategori "frontier" sehingga harus mengikuti standar dan evaluasi dari SAFA.
Kelompok kerja yang bertanggung jawab atas pembentukan SAFA juga sedang mempertimbangkan beberapa nama untuk posisi pimpinan. Sriram Krishnan, mantan investor dan penasihat kebijakan AI di pemerintahan AS, disebut-sebut pernah didekati untuk posisi CEO. Nama Arati Prabhakar, mantan direktur White House Office of Science and Technology Policy, juga dipertimbangkan. Selain itu, mantan Menteri Luar Negeri AS, Condoleezza Rice, dan pengusaha serta investor David Friedberg juga masuk dalam daftar kandidat untuk posisi ketua. Namun, hingga saat ini belum ada penunjukan resmi, dan beberapa nama yang disebutkan mengaku belum dihubungi.
Sampai saat ini, SAFA belum secara resmi diluncurkan. Nama, struktur organisasi, kepemimpinan, dan kewenangannya masih dapat berubah sebelum organisasi ini terbentuk.
