Ad space available
OpenAI Luncurkan Fitur Trusted Contact untuk Cegah Self-Harm di ChatGPT
OpenAI meluncurkan fitur Trusted Contact untuk membantu mencegah risiko melukai diri sendiri pada pengguna ChatGPT. Fitur ini akan mengirim notifikasi ke kontak darurat jika sistem mendeteksi adanya indikasi bahaya.
OpenAI Luncurkan Fitur Trusted Contact untuk Cegah Self-Harm di ChatGPT
SAN FRANCISCO, (7 Mei 2024) — Mengutip laporan terbaru, OpenAI resmi memperkenalkan fitur bernama Trusted Contact. Inovasi ini bertujuan memberikan lapisan perlindungan tambahan bagi pengguna ChatGPT dengan cara mendeteksi potensi tindakan melukai diri sendiri atau self-harm melalui analisis interaksi chatbot.
- Fitur Trusted Contact memungkinkan pengguna mendaftarkan kontak darurat untuk menerima notifikasi jika sistem mendeteksi ideasi bahaya.
- Setiap deteksi akan melalui proses human review oleh tim keselamatan OpenAI guna memastikan akurasi dan kecepatan respons.
- OpenAI menjamin privasi pengguna dengan tidak membagikan detail isi percakapan kepada kontak darurat yang dihubungi.
Cara Kerja Trusted Contact
Fitur ini bekerja dengan memantau pola percakapan pengguna secara real-time. Jika algoritma AI mendeteksi adanya indikasi bunuh diri atau niat melukai diri sendiri, sistem akan segera meneruskan temuan tersebut ke tim keselamatan manusia OpenAI. Tim ini bertugas meninjau konteks percakapan dalam waktu singkat, dengan target tinjauan di bawah satu jam untuk memastikan intervensi yang cepat.
Jika risiko dianggap nyata, ChatGPT akan mengirimkan pesan singkat melalui email atau SMS kepada kontak yang telah didaftarkan sebelumnya. Pesan tersebut dirancang sangat singkat dan hanya bertujuan mendorong kontak darurat untuk segera memeriksa kondisi pengguna. Demi privasi, pesan tersebut sama sekali tidak mencantumkan riwayat atau detail percakapan yang dilakukan pengguna dengan ChatGPT.
Perlindungan Pengguna dan Batasannya
Langkah ini merupakan respons proaktif OpenAI terhadap kekhawatiran global mengenai dampak psikologis interaksi intens dengan AI. Fitur ini bersifat opsional (opt-in), sehingga pengguna memiliki kendali penuh untuk mengaktifkan atau menonaktifkannya melalui pengaturan akun. Di Indonesia, kehadiran fitur ini sangat relevan mengingat tingginya angka adopsi teknologi AI di kalangan generasi muda yang juga rentan terhadap isu kesehatan mental.
OpenAI menyatakan akan terus bekerja sama dengan para ahli kesehatan mental dan klinisi untuk menyempurnakan kemampuan AI dalam mendeteksi tanda-tanda krisis emosional tanpa mengabaikan aspek privasi data pengguna.
Artikel ini disusun untuk memberikan informasi mengenai keselamatan dalam penggunaan AI. Join Komunitas Rekayasa AI di Discord untuk diskusi lebih lanjut mengenai perkembangan teknologi AI terkini.
Ad space available
Ditulis oleh
Tim Rekayasa AI
Kontributor Rekayasa AI yang passionate tentang teknologi AI dan dampaknya di Indonesia.
