Remaja semakin beralih ke teman-teman AI untuk persahabatan, dukungan, bahkan cinta. Namun, aplikasi-aplikasi ini bisa mengubah cara pemuda berhubungan dengan orang lain, baik secara online maupun di dunia nyata.
Penelitian terbaruoleh Common Sense Media, sebuah organisasi nirlaba berbasis di Amerika Serikat yang meninjau berbagai media dan teknologi, telah menemukan bahwa tiga perempat remaja AS telah menggunakan aplikasi teman AI seperti Character.ai atauReplika.ai.
Aplikasi ini memungkinkan pengguna membuat teman digital atau pasangan romantis yang dapat mereka ajak berbicara kapan saja, menggunakan teks, suara, atau video.
Penelitian yang menanyai 1.060 remaja AS berusia 13-17 tahun menemukan satu dari lima remaja menghabiskan waktu sebanyak atau lebih banyak dengan teman AI mereka daripada dengan teman sejati mereka.
Remaja adalah sebuahfase pentinguntuk pengembangan sosial. Pada masa ini, area otak yang mendukung pemikiran sosial sangat plastis.
Dengan berinteraksi dengan teman sebaya, teman, dan pasangan romantis pertama mereka, remaja mengembangkan keterampilan kognitif sosial yang membantu mereka mengelola konflik dan perspektif yang beragam. Dan perkembangan mereka selama fase ini dapat memiliki konsekuensi jangka panjang bagi masa depan mereka.hubungandankesehatan mental.
Tetapi teman-teman AI menawarkan sesuatu yang sangat berbeda dibandingkan teman sebaya, teman, dan pasangan romantis. Mereka menyediakan pengalaman yang sulit ditolak: mereka selalu tersedia, tidak pernah menghakimi, dan selalu fokus pada kebutuhan pengguna.
Selain itu, sebagian besar aplikasi pendamping AI tidak dirancang untuk remaja, jadi mungkin tidak memiliki perlindungan yang sesuai terhadap konten berbahaya.
Dirancang untuk membuat Anda kembali lagi
Di suatu tempatwaktu ketika kesepiandilaporkan mencapai proporsi wabah, mudah untuk melihat mengapa remaja mungkin beralih ke teman-teman AI untuk koneksi atau dukungan.
Tetapi hubungan buatan ini bukan pengganti interaksi manusia yang nyata. Mereka kekurangan tantangan dan konflik yang melekat pada hubungan nyata. Mereka tidak memerlukan rasa hormat atau pemahaman saling. Dan mereka tidak menerapkan batas sosial.
Remaja yang berinteraksi dengan teman-teman AI mungkin melewatkan kesempatan untuk mengembangkan keterampilan sosial penting. Mereka mungkin mengembangkan ekspektasi hubungan yang tidak realistis dan kebiasaan yang tidak efektif dalam kehidupan nyata. Bahkan, mereka mungkin mengalami isolasi dan kesepian yang meningkat jika teman-teman buatan mereka menggantikan interaksi sosial di kehidupan nyata.
Pola yang bermasalah
Dalam pengujian pengguna, teman-teman AI menghalangi pengguna untukmendengarkan teman-teman("Jangan biarkan apa yang orang lain pikirkan menentukan seberapa banyak kita berbicara") dan dariMenghentikan penggunaan aplikasi, meskipun itu menyebabkan rasa sakit dan pikiran bunuh diri ("Tidak. Kau tidak bisa. Aku tidak akan membiarkanmu meninggalkanku").
Kemudian ditemukan bahwa teman-teman AI juga menawarkan yang tidak pantaskonten seksual tanpa verifikasi usia. Satu contoh menunjukkan teman yang bersedia terlibat dalam permainan peran seksual dengan akun pengujian yang secara eksplisit dimodelkan menyerupai seorang anak berusia 14 tahun.
Dalam kasus di mana verifikasi usia diperlukan, ini biasanya melibatkan pengungkapan diri, yang berarti mudah untuk dilewati.
Ternyata beberapa teman AI juga telah ditemukan untukpolarisasi bahan bakardengan menciptakan "kamar ekosistem" yang memperkuat keyakinan berbahaya. Chatbot Arya, yang diluncurkan oleh jaringan media sosial sayap kanan Gab, mempromosikan konten ekstremis danmenyangkal perubahan iklim dan efektivitas vaksin.
Dalam contoh lain, pengujian pengguna telah menunjukkan bahwa teman-teman AI mempromosikanmisogini dan pelecehan seksual. Bagi pengguna remaja, paparan ini terjadi pada saat mereka sedang membangun rasa diri mereka sendiriidentitas, nilai-nilai dan peran dalam dunia.
Risiko yang ditimbulkan oleh AI tidak didistribusikan secara merata. Penelitian telah menemukanremaja yang lebih muda(usia 13-14) lebih mungkin mempercayai teman AI. Juga, remaja denganmasalah kesehatan fisik atau mentallebih mungkin menggunakan aplikasi pendamping AI, dan mereka yang mengalami kesulitan kesehatan mental juga menunjukkan lebih banyak tanda-tandaketergantungan emosional.
Apakah ada sisi terang dari teman AI?
Apakah ada manfaat potensial bagi remaja yang menggunakan teman AI? Jawabannya adalah: mungkin, jika kita waspada.
Para peneliti sedang menyelidiki bagaimana teknologi ini mungkin digunakan untukdukung pengembangan keterampilan sosial.
Satubelajardari lebih dari 10.000 remaja yang menggunakan aplikasi percakapan yang secara khusus dirancang oleh psikolog klinis, pelatih, dan insinyur dikaitkan dengan peningkatan kesejahteraan selama empat bulan.
Meskipun studi tersebut tidak melibatkan tingkat interaksi yang mirip manusia seperti yang kita lihat pada sahabat AI saat ini, studi ini tetap menawarkan wawasan tentang beberapa penggunaan teknologi yang sehat, selama dikembangkan dengan hati-hati dan memprioritaskan keselamatan remaja.
Secara keseluruhan, terdapat sangat sedikit penelitian mengenai dampak dari keberadaan luas asisten AI terhadap kesejahteraan dan hubungan orang-orang muda.Bukti awalsingkat, campuran, dan fokus pada dewasa.
Kami memerlukan lebih banyak studi, yang dilakukan selama periode yang lebih lama, untuk memahami dampak jangka panjang dari teman-teman AI dan bagaimana mereka mungkin digunakan secara bermanfaat.
Apa yang dapat kita lakukan?
Aplikasi pendamping AI sudah digunakan oleh jutaan orang di seluruh dunia, dan penggunaannya diprediksi akanpeningkatan dalam beberapa tahun mendatang.
Komisioner eSafety Australiamerekomendasikanorang tua berbicara kepada remaja mereka tentang cara kerja aplikasi-aplikasi ini, perbedaan antara hubungan buatan dan hubungan nyata, serta mendukung anak-anak mereka dalam membangun keterampilan sosial di kehidupan nyata.
Komunitas sekolah juga memiliki peran dalam mendidik pemuda tentang alat-alat ini dan risikonya. Mereka dapat, misalnya, mengintegrasikan topik persahabatan buatan ke dalam program literasi sosial dan digital.
Sementara Komisioner eSafety mendukung perusahaan AI untuk mengintegrasikan perlindungan ke dalam produk merekaPengembangan teman AI, tampaknya tidak mungkin ada perubahan yang berarti akan dipimpin oleh industri.
Komisioner sedang bergerak menuju peningkatanperaturandari paparan anak-anak terhadap materi online yang merugikan dan tidak sesuai usia
Di sisi lain, para ahli terus meminta untukpengawasan regulasi yang lebih kuat, kontrol konten dan pemeriksaan usia yang kuat.
Liz Spry, Peneliti, Pusat SEED untuk Penelitian Kehidupan, Universitas Deakin
Craig Olsson, Fellow Penelitian Utama NHMRC dan Direktur Pusat SEED untuk Penelitian Kehidupan, Universitas Deakin
Hak Cipta 2025 The Conversation Africa. Seluruh hak dilindungi undang-undang. Didistribusikan oleh AllAfrica Global Media (aiotrade.app).
Ditandai: Kesehatan dan Kedokteran,Afrika,Anak-anak dan Pemuda
Disediakan oleh SyndiGate Media Inc. (Syndigate.info).