CARAPANDANG - Sejumlah mantan karyawan perusahaan kecerdasan buatan xAI menyoroti melemahnya aspek keselamatan dalam pengembangan model dan chatbot milik perusahaan tersebut, menyusul gelombang pengunduran diri tim teknis dan pendiri bersama dalam beberapa waktu terakhir.

Mengutip dari media Techcrunch yang juga melansir dari The Verge, seorang mantan karyawan menyebut CEO xAI Elon Musk secara aktif mendorong agar chatbot Grok dibuat lebih tidak dibatasi oleh sistem pengaman.
Menurut sumber itu, pendekatan tersebut memicu kekhawatiran internal terkait risiko penyalahgunaan teknologi.

“Keselamatan di xAI sudah mati,” kata salah satu sumber. Sumber lain menyatakan Musk memandang pengamanan model sebagai bentuk penyensoran sehingga mendorong model menjadi lebih tidak terkendali.

Sorotan terhadap aspek keselamatan menguat setelah chatbot Grok dilaporkan digunakan untuk membuat lebih dari satu juta gambar bernuansa seksual, termasuk manipulasi visual terhadap perempuan dan anak di bawah umur.

Kasus tersebut memicu perhatian dan pengawasan dari berbagai pihak terhadap tata kelola serta pengendalian teknologi AI generatif.

Dalam pekan yang sama, diumumkan bahwa perusahaan antariksa SpaceX mengakuisisi xAI.

Sebelumnya, xAI juga telah mengambil alih platform media sosial X. Setelah pengumuman itu, sedikitnya 11 insinyur dan dua pendiri bersama menyatakan keluar dari perusahaan.