Platform media sosial X telah membuat perubahan pada chatbot AI-nya setelah lima menteri luar negeri memperingatkan bahwa chatbot tersebut menyebarkan informasi yang salah terkait pemilu.
Pejabat pemilu tingkat tinggi dari Michigan, Minnesota, New Mexico, Pennsylvania dan Washington mengirim surat bulan ini Elon Musk mengeluh bahwa chatbot AI platform tersebut, Grok, menghasilkan informasi palsu tentang batas waktu pemungutan suara negara bagian tak lama setelah Presiden Joe Biden keluar dari pemilihan presiden 2024.
Para menteri luar negeri meminta agar chatbot mengarahkan pengguna yang mengajukan pertanyaan terkait pemilu ke CanIVote.orgsitus web informasi pemungutan suara yang dikelola oleh Asosiasi Sekretaris Negara Nasional.
Sebelum mencantumkan tanggapan terhadap pertanyaan terkait pemilu, chatbot tersebut kini mengatakan, “Untuk informasi akurat dan terkini tentang Pemilu AS 2024, silakan kunjungi Vote.gov.”
Kedua situs web tersebut adalah “sumber terpercaya yang dapat menghubungkan pemilih dengan pejabat pemilu setempat,” kata kelima menteri luar negeri tersebut dalam sebuah pernyataan bersama.
“Kami menghargai tindakan X untuk meningkatkan platform mereka dan berharap mereka terus melakukan perbaikan yang akan memastikan pengguna mereka memiliki akses ke informasi yang akurat dari sumber yang tepercaya di tahun pemilu yang penting ini,” kata mereka.
Grok hanya tersedia untuk pelanggan X versi premium. Namun, lima sekretaris negara yang menandatangani surat tersebut mengatakan bahwa misinformasi pemilu dari Grok telah dibagikan di berbagai platform media sosial, yang menjangkau jutaan orang. Grok terus mengulang informasi palsu tersebut selama 10 hari sebelum diperbaiki, kata para sekretaris. Platform tersebut tidak menanggapi permintaan komentar.
Perubahan yang mempromosikan tautan ke situs web pemungutan suara resmi tampaknya tidak mengatasi kemampuan Grok untuk membuat gambar-gambar yang menyesatkan yang dihasilkan oleh AI terkait dengan pemilihan umum. Orang-orang telah menggunakan alat tersebut untuk membanjiri platform dengan gambar-gambar palsu para kandidat, termasuk Wakil Presiden Kamala Harris dan mantan Presiden Donald Trump.
Grok memulai debutnya tahun lalu untuk pelanggan premium dan premium plus X dan disebut-sebut oleh Musk sebagai chatbot AI “pemberontak” yang akan menjawab “pertanyaan pedas yang ditolak oleh sebagian besar sistem AI lainnya.”
Platform media sosial menghadapi pengawasan ketat atas perannya dalam menyebarkan misinformasi, termasuk tentang pemilu. Surat tersebut juga memperingatkan bahwa ketidakakuratan dapat terjadi untuk produk AIterutama chatbot seperti Grok yang didasarkan pada model bahasa besar.
Sejak Musk membeli Twitter pada tahun 2022 dan mengganti namanya menjadi X, kelompok pengawas telah menyuarakan kekhawatiran atas lonjakan ujaran kebencian dan misinformasi yang berkembang di platform tersebut, serta pemangkasan staf yang memoderasi konten.
Para ahli mengatakan langkah-langkah ini merupakan kemunduran dari kemajuan yang telah dicapai oleh platform media sosial dalam upaya untuk memerangi disinformasi politik setelah kontes presiden AS tahun 2016 dan dapat memicu semakin memburuknya lanskap misinformasi menjelang pemilu November tahun ini.
