Ringkasan Makalah
Metodologi
Penelitian ini menggunakan dua metode pengumpulan data. Pertama, peneliti mengumpulkan data Reddit pada 9 April 2024 menggunakan Python Reddit API Wrapper, mengumpulkan postingan dari berbagai subreddit terkait remaja dan teknologi AI. Dari 712 postingan dan 8.533 komentar yang awalnya dikumpulkan, 181 item relevan diidentifikasi setelah disaring berdasarkan penulis remaja dan konten terkait AI.
Tahap kedua terdiri dari wawancara semi terstruktur yang dilakukan antara Januari hingga Mei 2024 terhadap 7 remaja dan 13 orang tua. Peserta orang tua direkrut melalui Prolific berdasarkan kriteria khusus: pengalaman sebelumnya dengan AI Generatif, tempat tinggal di AS, kefasihan berbahasa Inggris, dan memiliki setidaknya satu anak berusia 13-17 tahun. Peserta remaja direkrut melalui sekolah menengah setempat dan Prolific, dengan persetujuan orang tua diperlukan untuk berpartisipasi.
Hasil Utama
Studi ini mengungkapkan tiga temuan utama. Pertama, remaja sering menggunakan AI untuk dukungan emosional dan persahabatan, sering kali memperlakukan chatbot AI sebagai terapis atau teman. Kedua, terdapat kesenjangan yang signifikan antara pemahaman orang tua dan remaja mengenai risiko AI – remaja khawatir akan kecanduan hubungan virtual dan penyalahgunaan AI dalam kelompok sosial, sementara orang tua berfokus pada pengumpulan data dan paparan konten yang tidak pantas. Ketiga, kontrol orang tua yang ada pada platform AI terbukti tidak memadai, karena hanya menawarkan pembatasan konten dasar dan verifikasi usia.
Keterbatasan Studi
Para peneliti mengidentifikasi beberapa keterbatasan utama. Evolusi teknologi AI yang pesat berarti bahwa beberapa platform, seperti Character.ai, muncul sebagai platform yang signifikan selama wawancara tetapi tidak menonjol dalam pengumpulan data awal Reddit. Penggunaan ChatGPT sebagai contoh dalam panduan wawancara mungkin telah mengarahkan peserta untuk fokus pada platform ini. Selain itu, penelitian ini berfokus pada pengguna berbahasa Inggris yang berbasis di AS, yang berpotensi kehilangan variasi budaya dalam penggunaan AI dan pendekatan kontrol orang tua.
Diskusi & Kesimpulan
Para peneliti merekomendasikan pengembangan sistem perlindungan yang lebih komprehensif, termasuk sistem kolaboratif orangtua-AI untuk moderasi konten, kemampuan pemantauan risiko secara real-time, dan alat yang lebih baik untuk komunikasi keluarga tentang penggunaan AI. Mereka menekankan perlunya kontrol konten yang sesuai dengan usia dan pengungkapan risiko yang transparan pada platform AI. Studi ini menunjukkan bahwa pendekatan keamanan digital saat ini memerlukan pembaruan yang signifikan untuk mengatasi tantangan unik yang ditimbulkan oleh teknologi AI generatif.
Informasi Kertas
Penelitian ini muncul sebagai pracetak pada arXiv (2406.10461v2), yang ditulis oleh peneliti dari University of Illinois di Urbana-Champaign, Pennsylvania State University, The Hockaday School, dan Dougherty Valley High School. Studi ini disetujui oleh dewan peninjau etik kelembagaan para peneliti dan kantor perlindungan data.
Meskipun informasi pendanaan secara eksplisit tidak diungkapkan dalam makalah atau siaran pers, penelitian ini tampaknya didukung oleh lembaga akademis yang berpartisipasi. Para penulis tidak melaporkan adanya konflik kepentingan atau sumber pendanaan eksternal yang dapat mempengaruhi temuan penelitian ini.
