Jakarta – Google dilaporkan telah menarik fitur Ulasan AI (AI Overviews) yang sempat menyajikan informasi menyesatkan dan keliru terkait pertanyaan medis. Keputusan ini diambil setelah adanya investigasi mendalam yang diungkap oleh The Guardian pada awal bulan ini, menyoroti bagaimana algoritma AI Google memberikan saran yang berpotensi membahayakan bagi pasien.
Poin-Poin Penting
- Google menarik fitur Ulasan AI (AI Overviews) setelah terungkapnya saran medis yang menyesatkan dan berpotensi membahayakan.
- Investigasi The Guardian mengungkap kasus seperti saran keliru untuk penderita kanker pankreas dan informasi palsu mengenai tes fungsi hati.
- Google mengklaim terus berinvestasi pada kualitas Ulasan AI, terutama topik kesehatan, dan meninjau keluhan yang masuk.
- Fitur ini sebelumnya telah menuai kritik karena saran-saran yang tidak masuk akal dan menjadi subjek tuntutan hukum.
Saran Berbahaya dan Konsekuensi
Investigasi oleh The Guardian berhasil menyoroti beberapa kasus yang sangat mengkhawatirkan. Salah satunya adalah ketika Google secara keliru menyarankan penderita kanker pankreas untuk menghindari makanan berlemak tinggi. Para ahli medis menilai saran ini sangat berbahaya karena bertentangan langsung dengan rekomendasi pengobatan standar dan berisiko meningkatkan kemungkinan kematian pasien.
Contoh lain yang disebut ‘mencemaskan’ adalah informasi palsu yang disajikan mengenai tes fungsi hati. Ulasan AI tersebut berpotensi membuat individu dengan penyakit hati serius salah mengira bahwa mereka dalam kondisi sehat, padahal sebaliknya. Situasi ini dapat menunda diagnosis dan penanganan yang tepat waktu.
Respons Google dan Kritik Berkelanjutan
Hingga kini, Ulasan AI untuk pertanyaan spesifik terkait kesehatan, seperti ‘berapa rentang normal tes darah hati?’, dilaporkan telah dinonaktifkan sepenuhnya. Ketika dikonfirmasi oleh The Guardian, Google menolak untuk memberikan komentar spesifik mengenai penarikan tersebut. Namun, juru bicara Google, Davis Thompson, menyatakan kepada The Verge bahwa perusahaan menginvestasikan sumber daya yang signifikan untuk kualitas Ulasan AI, terutama pada topik kesehatan.
Thompson mengklaim bahwa mayoritas Ulasan AI menyajikan informasi yang akurat dan tim internal klinisi Google telah meninjau keluhan yang masuk. Ia menambahkan bahwa dalam banyak kasus, informasi tersebut tidak keliru dan didukung oleh situs web berkualitas tinggi. “Dalam kasus di mana Ulasan AI kehilangan konteks, kami berupaya melakukan perbaikan luas, dan kami juga mengambil tindakan sesuai kebijakan kami jika diperlukan,” ujar Thompson.
Kontroversi ini menambah daftar panjang masalah yang dihadapi fitur Ulasan AI Google. Sebelumnya, fitur ini telah menuai kritik karena saran-saran yang tidak masuk akal, seperti menyuruh pengguna menempelkan lem pada pizza atau memakan batu, serta telah menjadi subjek dari berbagai tuntutan hukum. Penarikan fitur ini menunjukkan adanya kesadaran akan risiko yang ditimbulkan oleh informasi yang dihasilkan AI, terutama dalam ranah kesehatan yang sangat sensitif.
Add wartakita.id as a preferred source on Google
