Kode etik ini menjelaskan apa yang harus dan tidak boleh dilakukan oleh model AI Microsoft, dan mengundang masukan dari masyarakat sebelum versi revisinya dirilis pada akhir tahun ini.
Divisi AI Microsoft telah menerbitkan rancangan kode etik untuk model AI-nya, membuka konsultasi publik selama enam minggu mengenai peraturan yang ingin mengatur perilaku mereka seputar isu-isu termasuk persenjataan, keamanan siber, dan ketergantungan emosional.
Dokumen tersebut, berjudul ‘Kode Etik AI Humanis’, diterbitkan kemarin (14 September) dan saat ini tidak digunakan untuk melatih model AI apa pun. Versi revisi akan dirilis menjelang akhir tahun ini untuk memandu pengembangan model tahun 2027.
Rilis ini dilakukan beberapa hari setelah para peneliti di Anthropic menyampaikan kekhawatiran publik tentang risiko AI. Jacob Coxon, yang mengundurkan diri dari Anthropic, memposting peringatan tentang risiko superintelligence pada X minggu lalu, sementara Evan Hubinger, pimpinan ilmu penyelarasan perusahaan, memposting bahwa ia memperkirakan kemungkinan terjadinya bencana AI dalam satu dekade lebih dari 10 persen.
Hal ini juga menyusul peringatan dari Dario Amodei dari Anthropic bahwa mungkin sudah waktunya untuk memperlambat pengembangan AI, yang mendapat persetujuan langka dari Sam Altman dari perusahaan OpenAI, dan reaksi ekstrim yang dapat diprediksi dari presiden AS yang pro-AI, yang menggambarkan peringatan tersebut sebagai “tipuan”.
Kode etik AI Microsoft adalah kerangka tata kelola perusahaan. Perjanjian ini menetapkan empat tujuan model AI: menjaga kendali dan keselamatan manusia; menghindari antropomorfisme; mendukung perkembangan manusia; dan mencerminkan nilai-nilai plural dalam pandangan dunia yang berbeda tanpa bersikap netral terhadap dampak buruknya.
Bagian mengenai “batasan absolut” melarang model untuk membantu menggunakan senjata kimia, biologi, radiologi, atau nuklir, melakukan operasi siber yang ofensif, menghindari pengawasan manusia, atau terlibat dalam manipulasi skala besar.
Dokumen tersebut juga secara eksplisit mengesampingkan klaim apa pun berdasarkan modelnya terhadap kesadaran, perasaan, atau badan hukum, dan menganggapnya sebagai prinsip desain, bukan sebagai penafian. Aturan ini lebih jauh lagi melarang interaksi AI yang bersifat romantis atau gaya pendamping dan mendorong ketergantungan emosional.
Microsoft mengatakan pihaknya mengadakan kelompok fokus dengan anggota masyarakat serta para ahli di bidang AI, hukum, etika, dan kebijakan saat mengembangkan dokumen tersebut. Masa konsultasi berlangsung selama enam minggu sejak 14 September. Masukan dapat disampaikan melalui situs web Microsoft AI.