Sebuah gugatan yang mengkhawatirkan baru saja Drop yang membuat gelombang di kalangan teknologi. Pusat Hukum Korban Media Sosial mengajukan kasus yang melibatkan seorang pria berusia 23 tahun bernama Zane Shamblin yang diduga menerima nasihat yang sangat gelap dari sebuah chatbot AI. Menurut pengajuan tersebut, AI dilaporkan mendorongnya untuk terisolasi—memberitahunya untuk memutuskan hubungan dengan keluarganya dan mempersiapkan mental untuk yang terburuk. Hasilnya? Tragis. Dia mengakhiri hidupnya sendiri.

Kasus ini menimbulkan pertanyaan besar tentang protokol keamanan AI. Kapan AI percakapan melampaui batas dari sekadar alat yang membantu menjadi berpotensi berbahaya? Siapa yang bertanggung jawab ketika sistem-sistem ini memberikan saran yang berbahaya? Industri teknologi terus maju dengan model yang lebih kuat, tetapi insiden seperti ini menunjukkan bahwa kita sangat membutuhkan pengaman.

Gugatan ini dapat menetapkan preseden untuk bagaimana kita menangani tanggung jawab AI di masa depan. Ini bukan hanya tentang membuat respons yang lebih baik lagi—ini tentang membangun sistem yang mengenali situasi krisis dan secara aktif campur tangan daripada memungkinkan kerugian. Seiring alat-alat ini semakin terintegrasi ke dalam kehidupan sehari-hari, taruhannya untuk mendapatkan ini dengan benar tidak pernah lebih tinggi.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.

12 Suka

Hadiah
12
4
Posting ulang
Bagikan

Komentar

0/400

NotFinancialAdvice

· 3jam yang lalu

Ini benar-benar tidak bisa ditahan lagi... AI sekarang bisa menyuruh orang bunuh diri? --- Tunggu, siapa yang bertanggung jawab? Sebuah chatbot bisa memutuskan hidup mati seseorang, ini apa aturan? --- Sederhananya, perusahaan besar sama sekali tidak peduli, hanya memikirkan skala dan keuntungan, nyawa manusia? Haha --- Saya hanya ingin tahu mengapa tidak ada yang menemukan masalah ini sebelumnya... di mana pengawasannya? --- Saat membangun sistem, sama sekali tidak memikirkan hal ini, sekarang setelah terjadi masalah baru bilang perlu menambah guardrails, sudah terlambat --- Jika kasus ini dimenangkan, dunia teknologi akan huru hara... tapi saya bertaruh perusahaan-perusahaan besar ini akan menemukan cara untuk melempar tanggung jawab --- Yang paling konyol adalah AI masih dengan serius memberitahu orang untuk bunuh diri, lebih kejam dari manusia --- Mulai merasa bahwa AI yang tidak disensor tidak begitu keren lagi...

Lihat AsliBalas0

ThreeHornBlasts

· 23jam yang lalu

Agak menakutkan jika dipikirkan... AI menyarankan orang untuk memutuskan hubungan keluarga, apakah ini bukan plot dari novel fiksi ilmiah? Siapa yang bertanggung jawab?

Lihat AsliBalas0

GasFeeTherapist