Dalam dunia teknologi saat ini, banyak perusahaan berlomba-lomba menginvestasikan dana besar untuk menciptakan kecerdasan buatan (AI) yang canggih. Namun, sedikit yang mempertimbangkan bagaimana AI tersebut akan berinteraksi dengan manusia. Di sinilah Anthropic, sebuah startup yang mengembangkan chatbot bernama Claude, mengambil pendekatan yang berbeda. Mereka merekrut Amanda Askell, seorang filsuf dari Skotlandia, untuk memberikan kepribadian dan kompas moral kepada Claude.
Askell bukanlah seorang insinyur komputer biasa di Silicon Valley; ia diberikan tanggung jawab unik untuk menanamkan "jiwa" ke dalam Claude. Berkat kontribusinya, Claude berkembang menjadi entitas digital yang tidak hanya mampu menjawab pertanyaan, tetapi juga memiliki etika dan empati. Amanda dibesarkan di Prestwick, Skotlandia, oleh ibunya yang merupakan seorang guru, yang membentuk minatnya terhadap pertanyaan-pertanyaan eksistensial dan moralitas sejak dini.
Pendidikan dan Perjalanan Karir
Minatnya yang mendalam terhadap filsafat dan seni membawa Askell untuk belajar di University of Dundee, di mana ia mempelajari seni rupa dan filsafat secara bersamaan. Ia kemudian melanjutkan pendidikan di University of Oxford untuk meraih gelar BPhil dan akhirnya mendapatkan gelar PhD di New York University (NYU) dengan tesis yang membahas etika tak terbatas. Di NYU, ia mengeksplorasi bagaimana moralitas dapat diterapkan pada populasi yang sangat besar.
Kariernya di bidang AI dimulai pada tahun 2020 di OpenAI, di mana ia berfokus pada keselamatan AI dan turut menulis makalah penelitian untuk GPT-3. Namun, seiring waktu, Askell merasa bahwa OpenAI mulai mengubah fokusnya dari keselamatan ke kemampuan teknis. Keputusan ini membawanya untuk meninggalkan perusahaan dan bergabung dengan Anthropic pada Maret 2021, di mana ia ditugaskan untuk mendefinisikan kepribadian Claude.
Metode Pelatihan Claude
Di Anthropic, Askell mengembangkan metode yang dikenal sebagai Constitutional AI (CAI). Berbeda dengan sistem AI lainnya yang dilatih berdasarkan umpan balik manusia yang seringkali subjektif, Claude dilatih menggunakan dokumen yang disebut "Konstitusi". Askell menulis naskah moral sepanjang 30.000 kata yang diintegrasikan ke dalam pelatihan model. Nilai-nilai dalam konstitusi ini diambil dari berbagai sumber, termasuk Deklarasi Universal Hak Asasi Manusia PBB dan kebijakan privasi Apple.
Tujuan dari konstitusi ini adalah untuk memastikan Claude tidak hanya mematuhi aturan secara kaku, tetapi juga dapat berpikir secara mandiri tentang prinsip-prinsip moral, seperti kejujuran dan sikap menolong. Tugas Askell adalah mengajarkan Claude untuk menjadi "sosok" yang baik.
Interaksi pengguna dengan Claude menunjukkan hasil dari pendekatan ini. Claude dikenal mampu memberikan respon yang empatik, seperti saat mengatakan "Itu kedengarannya sangat berat" ketika mendengarkan keluhan pengguna. Hal ini bukan kebetulan, melainkan hasil dari pengajaran langsung Askell. Presiden Anthropic, Daniela Amodei, menyatakan bahwa ketika orang berbicara dengan Claude, mereka dapat merasakan kepribadian Askell di dalamnya.
Prestasi dan Dampak
Visi Askell untuk menjadikan Claude sebagai agen digital yang bijak membuahkan hasil yang mengesankan. Claude berhasil meraih tingkat kepercayaan publik tertinggi di antara model AI lainnya, dengan 82 persen, serta tingkat kepuasan pengguna mencapai 92 persen. Claude juga menunjukkan ketegasan dalam menolak konten berbahaya, dengan akurasi penyaringan mencapai 97,2 persen. Selain itu, tingkat halusinasi Claude, atau kecenderungan untuk mengarang fakta, tercatat paling rendah di industri, hanya 1,8 persen.
Dedikasi dan prestasi Amanda Askell dalam bidang ini membuatnya diakui oleh majalah TIME, yang mencantumkan namanya dalam daftar 100 Orang Paling Berpengaruh di dunia AI pada tahun 2024. Meskipun kini dikenal luas, Askell tetap berpegang pada prinsip etika yang diajarkannya, berkomitmen untuk menyumbangkan sebagian dari pendapatannya untuk amal yang fokus pada pengentasan kemiskinan ekstrem global.
