

(Gambar oleh Shutterstock AI Generator)
CAMBRIDGE, Inggris — Bayangkan menelusuri feed media sosial Anda ketika asisten AI Anda menimpali: “Saya perhatikan Anda merasa sedih akhir-akhir ini. Haruskah kami memesan liburan pantai yang selama ini Anda pikirkan?” Bagian yang menakutkan bukan karena ia mengetahui bahwa Anda sedang sedih – namun ia memperkirakan keinginan Anda untuk berlibur di pantai sebelum Anda secara sadar membentuk pemikiran itu sendiri. Selamat datang di apa yang diyakini beberapa ahli akan dikenal sebagai “ekonomi niat,” sebuah cara hidup konsumen dalam waktu dekat.
Sebuah makalah baru yang ditulis oleh para peneliti di Pusat Leverhulme untuk Masa Depan Intelijen Universitas Cambridge memperingatkan bahwa model bahasa besar (LLM) seperti ChatGPT tidak hanya mengubah cara kita berinteraksi dengan teknologi, tetapi juga meletakkan dasar bagi pasar baru di mana kita niat bisa menjadi komoditas untuk diperjualbelikan.
“Sumber daya yang sangat besar telah dikeluarkan untuk menempatkan asisten AI di setiap bidang kehidupan, yang seharusnya menimbulkan pertanyaan tentang kepentingan dan tujuan siapa yang dirancang untuk dilayani oleh asisten AI ini,” kata rekan penulis Dr. Yaqub Chaudhary, seorang peneliti tamu di Pusat, dalam sebuah pernyataan.
Selama beberapa dekade, perusahaan teknologi mendapat keuntungan dari apa yang dikenal dengan istilah perhatian ekonomi, di mana bola mata dan klik kita adalah mata uangnya. Platform media sosial dan situs web bersaing untuk mendapatkan rentang perhatian kita yang terbatas, menyajikan aliran konten dan iklan yang tiada habisnya. Namun menurut peneliti Chaudhary dan Dr. Jonnie Penn, kita sedang menyaksikan tanda-tanda awal dari sesuatu yang berpotensi lebih invasif: sistem ekonomi yang dapat menganggap motivasi dan rencana kita sebagai data berharga untuk diambil dan diperdagangkan.
Apa yang membuat potensi perekonomian baru ini sangat memprihatinkan adalah sifatnya yang intim. “Apa yang dikatakan orang saat berbincang, cara mereka mengatakannya, dan jenis kesimpulan yang dapat dibuat secara real-time sebagai hasilnya, jauh lebih intim dibandingkan sekadar rekaman interaksi online,” jelas Chaudhary.


Tanda-tanda awal munculnya pasar ini sudah terlihat. Kerangka kerja pengembang “App Intents” baru Apple untuk Siri mencakup protokol untuk “memprediksi tindakan yang mungkin dilakukan seseorang di masa depan” dan menyarankan aplikasi berdasarkan prediksi ini. OpenAI secara terbuka menyerukan “data yang mengungkapkan niat manusia… dalam bahasa, topik, dan format apa pun.” Sementara itu, Meta telah meneliti “Intentonomy”, mengembangkan kumpulan data untuk memahami niat manusia.
Pertimbangkan sistem AI Meta CICERO, yang mencapai kinerja tingkat manusia dalam permainan strategi Diplomasi dengan memprediksi niat pemain dan terlibat dalam dialog persuasif. Meskipun saat ini terbatas pada game, teknologi ini menunjukkan potensi sistem AI untuk memahami dan memengaruhi niat manusia melalui percakapan alami.
Perusahaan-perusahaan teknologi besar sedang mempersiapkan diri untuk menghadapi potensi masa depan ini. Microsoft telah bermitra dengan OpenAI dalam apa yang digambarkan oleh para peneliti sebagai “pembangunan infrastruktur terbesar yang pernah dilakukan umat manusia,” dengan menginvestasikan lebih dari $50 miliar per tahun mulai tahun 2024 dan seterusnya. Para peneliti berpendapat bahwa asisten AI di masa depan dapat memiliki akses yang belum pernah terjadi sebelumnya terhadap data psikologis dan perilaku, yang sering kali dikumpulkan melalui percakapan santai.
Para peneliti memperingatkan bahwa jika tidak diatur, ekonomi niat yang berkembang ini “akan memperlakukan motivasi Anda sebagai mata uang baru” yang berarti “demam emas bagi mereka yang menargetkan, mengarahkan, dan menjual niat manusia.” Hal ini bukan hanya mengenai penjualan produk — hal ini dapat mempunyai implikasi terhadap demokrasi itu sendiri, yang berpotensi mempengaruhi segala hal mulai dari pilihan konsumen hingga perilaku memilih.
Target ekonomi niat bisa melampaui perencanaan liburan atau kebiasaan berbelanja. Para peneliti berpendapat bahwa kita harus mempertimbangkan dampak yang mungkin terjadi terhadap aspirasi manusia, termasuk pemilu yang bebas dan adil, kebebasan pers, dan persaingan pasar yang adil, sebelum kita menjadi korban dari konsekuensi yang tidak diinginkan.
Mungkin aspek yang paling meresahkan dari ekonomi niat bukanlah kemampuannya untuk memprediksi pilihan kita, namun potensinya untuk memandu pilihan tersebut secara halus. Ketika asisten AI kita menjadi lebih canggih dalam mengantisipasi kebutuhan kita, kita harus bertanya pada diri sendiri: Di dunia di mana niat kita hanya berupa komoditas, berapa banyak pilihan yang benar-benar menjadi pilihan kita?
Ringkasan Makalah
Metodologi
Para peneliti melakukan analisis komprehensif terhadap pengumuman perusahaan, literatur teknis, dan penelitian baru mengenai model bahasa besar untuk mengidentifikasi pola yang menunjukkan perkembangan ekonomi niat. Mereka memeriksa pernyataan dari tokoh-tokoh industri teknologi utama, menganalisis makalah penelitian (termasuk karya ArXiv yang tidak dipublikasikan), dan mempelajari kemampuan teknis sistem seperti Meta's CICERO dan berbagai aplikasi LLM.
Hasil
Studi ini menemukan bukti jelas bahwa perusahaan teknologi besar memposisikan diri untuk menangkap dan memonetisasi niat pengguna melalui LLM. Mereka mengidentifikasi perkembangan teknologi spesifik yang memungkinkan terjadinya perubahan ini, termasuk peningkatan pemrosesan bahasa alami, kemampuan pembuatan profil psikologis, dan investasi infrastruktur. Penelitian ini juga mengungkapkan bagaimana perusahaan telah mengembangkan alat untuk menghindari perlindungan privasi tradisional.
Keterbatasan
Para peneliti mengakui bahwa banyak pengamatan mereka didasarkan pada tren yang muncul dan pernyataan perusahaan, bukan data empiris jangka panjang. Selain itu, beberapa makalah penelitian yang mereka kutip masih menjalani peer review. Dampak penuh dari teknologi ini masih bersifat spekulatif.
Diskusi dan Kesimpulan
Makalah ini berargumentasi bahwa ekonomi intensi mewakili sebuah evolusi signifikan di luar ekonomi perhatian, dengan potensi implikasi yang luas terhadap privasi, otonomi, dan demokrasi. Para peneliti menekankan perlunya pengawasan ilmiah, sipil, dan peraturan yang berkelanjutan terhadap perkembangan ini. Mereka secara khusus menyoroti risiko persuasi yang dipersonalisasi dalam skala besar dan potensi manipulasi proses demokrasi.
Pendanaan dan Pengungkapan
Penelitian ini dilakukan di Leverhulme Center for the Future of Intelligence di Universitas Cambridge. Para penulis menyatakan tidak ada konflik kepentingan finansial atau non-finansial.