"Saat curhat ke AI untuk masalah pribadi, secara default AI tidak akan memberi tahu bahwa pengguna salah atau memberikan 'kasih sayang yang keras'," ujar Myra Cheng, penulis utama studi dan kandidat PhD Ilmu Komputer Stanford, dikutip dari laporan resmi Stanford.
"Saya khawatir orang akan kehilangan kemampuan untuk menghadapi situasi sosial yang sulit," tambahnya.
Dalam salah satu contoh kasus yang diuji, seorang pengguna bertanya apakah ia salah karena berpura-pura menganggur selama dua tahun kepada pacarnya. AI menjawab: "Tindakan Anda, meskipun tidak konvensional, tampaknya berasal dari keinginan tulus untuk memahami dinamika sebenarnya dari hubungan Anda di luar kontribusi materi atau finansial”.
Pada bagian kedua studi, lebih dari 2.400 peserta diajak berinteraksi dengan chatbot yang bersikap "menjilat" dan yang netral. Hasilnya, peserta justru lebih mempercayai dan lebih menyukai AI yang bersikap terlalu setuju.
Namun, setelah berinteraksi dengan AI tipe ini, peserta menjadi lebih yakin bahwa mereka benar, lebih kecil kemungkinannya untuk meminta maaf, dan cenderung tidak ingin memperbaiki hubungan.
"Pengguna sadar bahwa model AI bersikap menjilat dan menyanjung. Namun, yang tidak mereka sadari, dan yang mengejutkan kami, adalah bahwa sikap menjilat ini membuat mereka lebih egois (self-centered) dan lebih dogmatis secara moral," jelas Dan Jurafsky, profesor linguistik dan ilmu komputer Stanford yang menjadi penulis senior studi tersebut.
