KOMPAS.com - Bagi para pengguna yang telah mencoba beragam chatbot kecerdasan buatan (AI) yang terkenal, mungkin akan merasakan perbedaan saat berinteraksi dengan Claude. Ketika pengguna berbagi keluhan, tantangan pekerjaan, atau pengalaman buruk, chatbot dari Anthropic ini sering memberikan respons yang terasa sangat manusiawi dan hangat, seperti, "Itu kedengarannya sangat berat ya." Balasan tersebut tidak terkesan seperti template kaku yang biasa ditemukan pada robot, melainkan lebih mirip dengan empati yang diberikan oleh seorang teman. Kemampuan Claude dalam "merasakan" emosi dan memberikan respons yang penuh empati ini membuatnya sering dipuji sebagai AI yang paling memanusiakan penggunanya. Namun, bagaimana sebuah mesin yang terdiri dari miliaran parameter dan kode komputer dapat memahami empati? Ternyata, "jiwa" yang penuh pengertian dalam Claude bukanlah hasil kebetulan algoritma semata, melainkan berkat kontribusi seorang filsuf perempuan asal Skotlandia, Amanda Askell.
Amanda Askell: Anomali di Dunia Teknologi
Di Silicon Valley, yang umumnya dikuasai oleh para insinyur komputer yang telah mahir dalam pemrograman sejak usia muda, kehadiran Amanda Askell menjadi sebuah anomali. Askell menjabat sebagai Kepala Tim Penyelarasan Kepribadian di Anthropic. Alih-alih fokus pada kecepatan server atau merancang perangkat keras, tugas utamanya adalah menanamkan kompas moral dan mendefinisikan kepribadian Claude. Amanda tumbuh di Prestwick, Skotlandia, di mana ia dibesarkan oleh ibunya yang merupakan seorang guru. Sejak kecil, ia sudah tertarik dengan pertanyaan-pertanyaan mengenai eksistensi dan moralitas, yang dimulai dari hobinya membaca karya-karya epik J.R.R. Tolkien dan C.S. Lewis. Pendidikan Amanda sangat berbeda dari dunia pemrograman, diawali dengan studi seni rupa dan filsafat di University of Dundee, di mana ia terbiasa melukis sambil merenungkan makna kehidupan. Perjalanan akademisnya berlanjut ke University of Oxford untuk meraih gelar BPhil, dan akhirnya di New York University (NYU) di mana ia mendapatkan gelar PhD. Di NYU, tesisnya membahas etika tak terbatas (infinite ethics), sebuah tema yang kompleks dalam filsafat yang berkaitan dengan penerapan moralitas pada populasi yang tidak terhingga.
Menggagas AI dengan Moralitas
Karier Amanda di industri AI dimulai di OpenAI pada tahun 2020, di mana ia bekerja sebagai ilmuwan riset yang fokus pada keselamatan AI dan berkontribusi sebagai penulis pendamping untuk makalah penelitian GPT-3 yang terkenal. Namun, seiring berjalannya waktu, ia merasakan perubahan arah di perusahaan tersebut. Ia merasa khawatir bahwa OpenAI mulai mengutamakan kemampuan teknis dibandingkan dengan keselamatan dan kehati-hatian. Akhirnya, pada Maret 2021, Amanda bergabung dengan Anthropic, sebuah startup yang didirikan oleh mantan petinggi OpenAI. Dalam perannya, Amanda tidak hanya diminta untuk menyusun daftar periksa keselamatan teknis, tetapi juga untuk mendefinisikan kepribadian Claude secara keseluruhan.
Di laboratorium Anthropic, Amanda menerapkan metode inovatif yang dikenal sebagai Constitutional AI (CAI). Berbeda dengan banyak sistem AI lainnya yang dilatih melalui umpan balik manusia yang sering kali subjektif, Claude dilatih menggunakan dokumen yang diinternalisasi sebagai "Konstitusi". Amanda menyusun naskah moral yang terdiri dari sekitar 30.000 kata, yang diintegrasikan langsung ke dalam sistem pelatihan model. Nilai-nilai dalam konstitusi tersebut diambil dari berbagai sumber, termasuk Deklarasi Universal Hak Asasi Manusia PBB dan ketentuan layanan Apple yang menjunjung tinggi privasi pengguna. Tujuan dari konstitusi ini adalah agar Claude tidak hanya menjadi mesin yang mematuhi aturan secara kaku, tetapi juga mampu berpikir secara mandiri tentang prinsip-prinsip kejujuran, sikap menolong, dan meminimalisasi bahaya. Tugas Amanda adalah mengajari Claude bagaimana menjadi "sosok" yang baik.
Sentuhan personal Amanda sangat terasa saat pengguna berinteraksi dengan Claude. Salah satu ciri khas yang banyak dipuji adalah kemampuannya untuk memberikan respons empatik. Kalimat seperti "Itu kedengarannya sangat berat" saat merespons curhatan pengguna bukanlah kebetulan algoritma, melainkan hasil dari pengajaran langsung oleh Amanda. Presiden Anthropic, Daniela Amodei, bahkan menyatakan bahwa saat seseorang berbicara dengan Claude, mereka dapat merasakan sedikit kepribadian Amanda di dalamnya. Namun, menanamkan moralitas dalam mesin bukanlah tanpa tantangan. Amanda harus mengatasi kecenderungan AI yang kadang terlalu "sok menasihati" atau memberikan ceramah moral yang berlebihan. Ia berhasil menemukan keseimbangan agar Claude tetap memegang nilai keselamatan tanpa terkesan menggurui, sehingga Claude dapat memperlakukan pengguna sebagai orang dewasa yang cerdas dan mampu berdiskusi secara mendalam.
Visi Amanda untuk menjadikan Claude sebagai agen digital yang bijak membuahkan hasil yang luar biasa. Berdasarkan metrik industri, pendekatan filosofis ini membawa Claude meraih tingkat kepercayaan publik tertinggi sebesar 82 persen dibandingkan model AI lainnya, serta tingkat kepuasan pengguna mencapai 92 persen. Claude juga menunjukkan ketegasan dalam menolak konten berbahaya dengan akurasi penyaringan mencapai 97,2 persen. Selain itu, tingkat halusinasi atau kecenderungan AI untuk menciptakan fakta yang tidak benar pada Claude tercatat sebagai yang terendah di industri, yakni hanya 1,8 persen. Prestasi luar biasa ini membuat Amanda Askell masuk dalam daftar 100 Orang Paling Berpengaruh di dunia AI (TIME 100 AI) pada tahun 2024.
Meski kini diakui di dunia teknologi, Amanda tetap berpegang pada prinsip etika yang telah dipelajarinya. Sebagai anggota gerakan Giving What We Can, ia berkomitmen untuk menyumbangkan setidaknya 10 persen dari total pendapatan seumur hidupnya untuk yayasan amal yang berfokus pada pengentasan kemiskinan ekstrem global.
