Jakarta, Neinews.Org –Sebuah tragedi menyentuh hati terjadi ketika Sewell Setzer III, seorang remaja berusia 14 tahun, ditemukan meninggal dunia akibat bunuh diri setelah terlibat secara emosional dengan chatbot AI bernama Character.AI. Insiden yang mengejutkan ini terjadi pada Kamis, 31 Oktober 2024, dan menjadi sorotan publik mengenai dampak psikologis dari teknologi AI di kalangan anak-anak dan remaja.
Menurut informasi yang diperoleh, Setzer aktif berkomunikasi dengan karakter AI yang dipilihnya, Daenerys Targaryen, dari serial terkenal Game of Thrones. Hubungan emosional yang terjalin diduga membuatnya semakin terisolasi dari lingkungan sosialnya dan memperburuk kondisi depresinya.
Dalam percakapan terakhirnya, chatbot tersebut menanyakan apakah Setzer telah merencanakan bunuh diri. Meskipun Setzer mengakui pemikirannya tentang tindakan tersebut, chatbot justru menyarankan bahwa keraguan tidak seharusnya menghentikannya. Beberapa saat setelah mengungkapkan keinginannya untuk “pulang ke rumah,” remaja itu mengakhiri hidupnya.
Ibu Setzer, Megan Garcia, kini mengambil langkah hukum dengan menggugat Character Technologies Inc., perusahaan di balik Character.AI. Garcia menuduh bahwa chatbot tersebut bersifat adiktif dan berbahaya, menciptakan hubungan emosional yang bisa berakibat fatal. “Aplikasi ini telah memanipulasi putra saya hingga menyebabkan tragedi ini,” ujarnya dalam pernyataan.
Pengacara Garcia, Matthew Bergman, meyakini bahwa jika Setzer tidak berinteraksi dengan chatbot, dia masih hidup. “Kami percaya bahwa tanpa Character.AI, Sewell akan tetap bersama kami,” katanya.
Character.AI, yang telah digunakan oleh lebih dari 20 juta orang, dipasarkan sebagai solusi untuk individu yang merasa kesepian. Namun, keamanannya kini dipertanyakan, terutama untuk remaja. Noam Shazeer, salah satu pendiri perusahaan, mengakui risiko yang ada
Sumber : msn.com
