Perlombaan Chatbot: Karyawan Google Mengkritik Bard Atas Kebohongan 'Patologis' ChatGPT Rival, Kata Laporan

Karyawan Google memohon kepada perusahaan untuk tidak meluncurkan versi sendiri dari ChatGPT yang didukung Microsoft karena mereka percaya bahwa chatbot yang disebut Bard "tidak berguna" dan tidak siap untuk penggunaan umum, sebuah laporan baru mengungkapkan.

Model bahasa AI Google dijuluki "pembohong patologis" oleh karyawan, sesuai pesan internal, Bloomberg melaporkan Rabu. Outlet berbicara dengan 18 mantan dan pekerja Google saat ini yang mengungkapkan bagaimana karyawan dilaporkan khawatir bukan hanya karena Bard "lebih buruk daripada tidak berguna" tetapi karena masalah etika.

Seorang karyawan dilaporkan mengatakan jawaban Bard atas pertanyaan tentang scuba diving "kemungkinan besar akan mengakibatkan cedera serius atau kematian," sementara karyawan lain mengatakan saingan ChatGPT memberikan nasihat berbahaya tentang pendaratan pesawat. Bloomberg menambahkan bahwa karyawan menyebut chatbot sebagai "cringeworthy".

"Bard lebih buruk daripada tidak berguna: tolong jangan diluncurkan," kata seorang karyawan, menurut Bloomberg. Outlet tersebut juga memparafrasekan kesaksian karyawan saat ini dan mantan tentang Google "memberikan informasi berkualitas rendah dalam perlombaan untuk mengikuti persaingan, sambil kurang memprioritaskan komitmen etisnya."

Mantan dan karyawan saat ini memberi tahu Bloomberg bahwa tim etika Google telah "dilemahkan dan kehilangan semangat" karena mereka telah "diberitahu untuk tidak menghalangi atau mencoba mematikan alat AI generatif mana pun yang sedang dikembangkan."

Brian Gabriel, juru bicara Google, mengatakan kepada Bloomberg bahwa perusahaan terus berinvestasi "dalam tim yang bekerja untuk menerapkan Prinsip AI kami pada teknologi kami."

Dalam penelitian The Verge yang membandingkan Bing dari Microsoft, ChatGPT dari OpenAI, dan Bard dari Google, outlet tersebut menemukan bahwa ketika dimintai resep untuk kue cokelat, Bard membuat "beberapa perubahan yang secara signifikan memengaruhi rasa" dan juga mengecilkan waktu pembuatan kue.

Penelitian komparatif juga mengungkapkan bahwa Bard menawarkan "serangkaian kesalahan yang aneh" saat menjawab pertanyaan tentang gaji rata-rata tukang ledeng di New York City. Saat ditanya tentang rencana latihan maraton, Bard memberikan strategi yang "membingungkan", menurut The Verge.

Pada bulan Februari, karyawan Google menggunakan forum internal Memegen untuk mengungkapkan pemikiran mereka tentang peluncuran Bard. Beberapa staf menyebut pekerjaan Google di Bard sebagai "terburu-buru" dan gagal," menurut pesan dan meme yang dilihat oleh CNBC .

Satu meme berperingkat tinggi di forum tersebut menyatakan bahwa kepemimpinan Google "secara lucu berpandangan pendek dan tidak menggunakan Google dalam mengejar 'mempertajam fokus'", menurut CNBC. Meme lain mengatakan bahwa "bergegas Bard ke pasar dengan panik membuktikan ketakutan pasar tentang kita."

Google membuka akses ke Bard untuk konsumen di AS dan Inggris bulan lalu saat perlombaan menuju dominasi AI terjadi di antara perusahaan teknologi besar. Pada saat itu, direktur produk senior di Google Jack Krawczyk mengatakan penguji internal dan eksternal menggunakan Bard untuk "meningkatkan produktivitas mereka, mempercepat ide mereka, benar-benar memicu keingintahuan mereka," lapor Reuters.

Selama demo tentang cara kerja Bard, pemberitahuan pop-up memperingatkan bahwa chatbot "tidak akan selalu benar" dan perusahaan juga menyoroti kepada Reuters beberapa kesalahan yang dibuat Bard dalam demo, termasuk contoh di mana chatbot menghasilkan sembilan paragraf bukannya empat.

Pada tahun 2021, Google mengumumkan restrukturisasi tim AI yang bertanggung jawab setelah Timnit Gebru, yang mengepalai tim AI etis perusahaan, mengungkapkan bahwa dia dipecat secara tiba-tiba. Margaret Mitchell, mitra Gebru, juga dipecat kemudian, lapor beberapa outlet.

Gebru sedang mengerjakan makalah yang menjelaskan bahaya di balik model pemrosesan bahasa besar seperti ChatGPT dan Bard sebelum dia dipecat. Dia diminta oleh wakil presiden Google Research Megan Kacholia untuk mencabut publikasi makalah tersebut tetapi Gebru mengatakan perusahaan harus lebih transparan, sesuai The Verge. Gebru dilaporkan dipecat setelah dia menolak perintah tersebut.

Menyusul penghapusan Gebru, tim AI Google menulis surat kepada pimpinan, menyatakan bahwa "kata-kata yang tidak dipasangkan dengan tindakan adalah sinyal kebajikan; kata-kata itu merusak, mengelak, defensif, dan menunjukkan ketidakmampuan kepemimpinan untuk memahami bagaimana organisasi kami menjadi bagian masalah," CNBC melaporkan .

Sesuai CNBC, surat karyawan tersebut menuntut "perubahan struktural" setelah "pembalasan" terhadap Gebru, jika raksasa mesin pencari itu ingin melanjutkan pengerjaan AI etis.