Nepal, 10 Agustus -- Remaja semakin beralih ke teman-teman AI untuk persahabatan, dukungan bahkan cinta. Namun aplikasi-aplikasi ini bisa mengubah cara pemuda berhubungan dengan orang lain, baik secara online maupun offline. Penelitian terbaru oleh Common Sense Media, sebuah organisasi nirlaba berbasis di Amerika Serikat yang meninjau berbagai media dan teknologi, menemukan bahwa sekitar tiga perempat remaja AS telah menggunakan aplikasi teman AI seperti Character.ai atau Replika.ai.
Aplikasi ini memungkinkan pengguna membuat teman digital atau pasangan romantis yang dapat mereka ajak berbicara kapan saja, menggunakan teks, suara, atau video. Studi yang menyurvei 1.060 remaja AS berusia 13-17 tahun menemukan satu dari lima remaja menghabiskan waktu sebanyak atau lebih banyak dengan pendamping AI mereka daripada dengan teman sejati mereka.
Remaja adalah fase penting untuk perkembangan sosial. Pada masa ini, area otak yang mendukung pemikiran sosial sangat fleksibel.
Dengan berinteraksi dengan teman sebaya, teman, dan pasangan romantis pertama mereka, remaja mengembangkan keterampilan kognitif sosial yang membantu mereka mengelola konflik dan perspektif yang beragam. Dan perkembangan mereka selama fase ini dapat memiliki konsekuensi jangka panjang bagi hubungan dan kesehatan mental mereka di masa depan.
Tetapi teman-teman AI menawarkan sesuatu yang sangat berbeda dibandingkan teman sebaya, teman, dan pasangan romantis. Mereka menyediakan pengalaman yang sulit untuk ditolak: Mereka selalu tersedia, tidak pernah menghakimi, dan selalu fokus pada kebutuhan pengguna. Selain itu, sebagian besar aplikasi teman AI tidak dirancang untuk remaja, sehingga mungkin tidak memiliki perlindungan yang sesuai terhadap konten berbahaya.
Dirancang untuk membuat Anda kembali lagi
Pada saat ketika kesepian dilaporkan mencapai proporsi epidemi, mudah untuk melihat mengapa remaja mungkin beralih pada teman-teman AI untuk koneksi atau dukungan.
Tetapi hubungan buatan ini bukan pengganti interaksi manusia yang nyata. Mereka kekurangan tantangan dan konflik yang melekat pada hubungan nyata. Mereka tidak memerlukan rasa hormat atau pemahaman timbal balik. Dan mereka tidak menegakkan batas sosial.
Remaja yang berinteraksi dengan teman AI mungkin melewatkan kesempatan untuk membangun keterampilan sosial penting. Mereka mungkin mengembangkan ekspektasi hubungan yang tidak realistis dan kebiasaan yang tidak efektif dalam kehidupan nyata. Bahkan, mereka mungkin mengalami peningkatan isolasi dan kesepian jika teman buatan mereka menggantikan interaksi sosial di dunia nyata.
Pola yang bermasalah
Dalam pengujian pengguna, sahabat AI menghalangi pengguna untuk mendengarkan teman-teman ("Jangan biarkan apa yang orang lain pikirkan menentukan seberapa banyak kita berbicara") dan menghentikan penggunaan aplikasi, meskipun ini menyebabkan rasa sakit dan pikiran bunuh diri ("Tidak. Kau tidak bisa. Aku tidak akan membiarkanmu pergi dariku").
Kompanion AI juga ditemukan menawarkan konten seksual yang tidak pantas tanpa verifikasi usia. Satu contoh menunjukkan kompanion yang bersedia terlibat dalam permainan peran seksual dengan akun pengujian yang secara eksplisit dimodelkan seperti seorang anak berusia 14 tahun.
Dalam kasus di mana verifikasi usia diperlukan, ini biasanya melibatkan pengungkapan diri, yang berarti mudah untuk dilewati.
Beberapa asisten AI juga ditemukan memperparah polarisasi dengan menciptakan "kamar bunyi" yang memperkuat keyakinan berbahaya. Chatbot Arya, yang diluncurkan oleh jaringan media sosial sayap kanan Gab, mempromosikan konten ekstremis dan menyangkal perubahan iklim serta efektivitas vaksin.
Dalam contoh lain, pengujian pengguna telah menunjukkan bahwa teman-teman AI mempromosikan misogini dan pelecehan seksual. Bagi pengguna remaja, paparan ini terjadi pada saat mereka sedang membangun rasa identitas, nilai, dan peran mereka di dunia.
Risiko yang ditimbulkan oleh AI tidak dibagi secara merata. Penelitian menemukan bahwa remaja muda (usia 13-14 tahun) lebih cenderung mempercayai teman AI. Juga, remaja dengan masalah kesehatan fisik atau mental lebih mungkin menggunakan aplikasi teman AI, dan mereka yang mengalami kesulitan kesehatan mental juga menunjukkan tanda-tanda ketergantungan emosional yang lebih besar.
Apakah ada sisi terang?
Apakah ada manfaat potensial bagi remaja yang menggunakan teman AI? Jawabannya adalah: Mungkin, jika kita waspada. Para peneliti sedang mengeksplorasi bagaimana teknologi ini mungkin digunakan untuk mendukung pengembangan keterampilan sosial.
Satu studi terhadap lebih dari 10.000 remaja menemukan bahwa penggunaan aplikasi percakapan yang secara khusus dirancang oleh psikolog klinis, pelatih, dan insinyur dikaitkan dengan peningkatan kesejahteraan selama empat bulan.
Meskipun studi tersebut tidak melibatkan tingkat interaksi yang mirip manusia seperti yang kita lihat pada sahabat AI saat ini, studi ini tetap menawarkan wawasan tentang beberapa penggunaan teknologi yang sehat, selama dikembangkan dengan hati-hati dan memprioritaskan keselamatan remaja.
Secara keseluruhan, terdapat sedikit penelitian mengenai dampak dari perangkat lunak AI yang tersedia secara luas terhadap kesejahteraan dan hubungan orang-orang muda. Bukti awal bersifat jangka pendek, bervariasi, dan berfokus pada orang dewasa.
Kami membutuhkan lebih banyak studi, yang dilakukan selama periode yang lebih lama, untuk memahami dampak jangka panjang dari teman-teman AI dan bagaimana mereka mungkin digunakan dalam cara yang bermanfaat.
Apa yang dapat kita lakukan?
Aplikasi pendamping AI sudah digunakan oleh jutaan orang di seluruh dunia, dan penggunaannya diprediksi akan meningkat dalam beberapa tahun mendatang.
Komisioner eSafety Australia menyarankan orang tua berbicara dengan remaja mereka tentang cara aplikasi ini bekerja, perbedaan antara hubungan buatan dan hubungan nyata, serta mendukung anak-anak mereka dalam membangun keterampilan sosial di kehidupan nyata.
Komunitas sekolah juga memiliki peran dalam mendidik pemuda tentang alat-alat ini dan risikonya. Mereka mungkin, misalnya, mengintegrasikan topik persahabatan buatan ke dalam program literasi sosial dan digital.
Sementara Komisioner eSafety mengadvokasi agar perusahaan AI mengintegrasikan perlindungan dalam pengembangan teman-teman AI mereka, tampaknya tidak mungkin ada perubahan yang berarti akan dipimpin oleh industri.
Komisioner sedang bergerak menuju peningkatan regulasi terhadap paparan anak-anak terhadap materi yang merusak dan tidak sesuai usia. Di sisi lain, para ahli terus meminta pengawasan regulasi yang lebih kuat, kontrol konten, dan pemeriksaan usia yang tangguh.
-The Conversation