Hi Urbie's! Perkembangan kecerdasan artifisial (AI) dalam beberapa tahun terakhir telah mengubah cara manusia bekerja, belajar, hingga membangun relasi. Namun, di balik kemudahan yang ditawarkan, ada pertanyaan yang menurut Dian Martin dari Chairman AI Association justru perlu mendapat perhatian lebih besar: bagaimana manusia, terutama anak-anak, berpikir ketika menggunakan AI?

Pertanyaan tersebut disampaikan Dian dalam 2nd Poland–Indonesia Innovation Forum EdTech & AI, yang berlangsung pada 10 November 2026 di Kantor Kadin Indonesia, kawasan Rasuna Said, Jakarta.

Menurut Dian, sejak teknologi AI generatif semakin populer pada 2022, penggunaannya berkembang begitu cepat hingga menjadi kebiasaan sehari-hari. Akan tetapi, kecepatan adopsi itu belum tentu sejalan dengan pemahaman masyarakat mengenai cara kerja, batas kemampuan, dan konsekuensi penggunaan AI.

Bagi Dian, persoalannya bukan lagi sebatas apakah seseorang menggunakan AI, melainkan apakah ia memahami teknologi yang sedang digunakan.

AI Bukan Alat Biasa: Ada Perubahan dalam Cara Manusia Mengambil Keputusan

Selama ini, AI kerap dipandang sebagai alat bantu seperti perangkat lunak pada umumnya. Kita menggunakannya untuk mencari informasi, menyusun tulisan, membuat materi presentasi, hingga menyelesaikan pekerjaan.

Namun, Dian mengajak audiens melihat AI dari sudut pandang berbeda. Berbeda dengan alat konvensional yang bekerja berdasarkan perintah, AI memiliki kemampuan menghasilkan respons dan rekomendasi yang dapat memengaruhi keputusan penggunanya.

Urbanvibes Ads banner Pullman Central Park Jakarta Hotel

Perubahan ini membawa konsekuensi besar. Dalam dunia pendidikan, misalnya, guru mulai mencari cara untuk mengetahui apakah tugas siswa dibuat menggunakan AI. Di sisi lain, sebagian siswa justru mencari aplikasi yang dapat menyamarkan penggunaan teknologi tersebut.

Situasi ini memperlihatkan bahwa AI telah mengubah hubungan antara guru dan murid, termasuk cara proses belajar dan penilaian dilakukan.

Dian menilai, pembahasan AI tidak bisa berhenti pada penguasaan aplikasi. Masyarakat perlu memahami bagaimana teknologi ini memengaruhi pola pikir, perilaku, dan hubungan sosial.

Penggunaan AI Personal Berbeda dengan AI di Perusahaan

Dalam pemaparannya, Dian juga menyoroti perbedaan antara penggunaan AI secara personal dan penerapannya di lingkungan korporasi.

AI yang membantu seseorang menyelesaikan pekerjaan lebih cepat belum tentu menghasilkan dampak positif bagi perusahaan. Ia menyebut, berdasarkan penelitian yang dipaparkannya, sekitar 95 persen korporasi yang menggunakan AI belum berhasil menunjukkan dampak positif bagi bisnis mereka.

Salah satu persoalannya adalah sulit mengukur manfaat AI secara langsung terhadap laporan laba rugi atau profit and loss. Pekerjaan yang sebelumnya membutuhkan waktu sepuluh jam mungkin dapat diselesaikan dalam delapan jam. Namun, pertanyaan berikutnya adalah ke mana dua jam yang berhasil dihemat itu digunakan?

Baca juga:

Apakah waktu tersebut benar-benar meningkatkan produktivitas perusahaan, atau justru digunakan untuk aktivitas lain?

Untuk memahami persoalan ini, Dian menyebut AI Association mengkaji 366 penelitian dan penyelidikan mengenai penerapan AI di perusahaan dan industri. Ia menekankan bahwa keberhasilan penggunaan AI tidak cukup diukur dari seberapa sering teknologi tersebut dipakai.

Ketika AI Menjadi Teman, Risiko Kesehatan Mental Perlu Diperhatikan

Salah satu bagian yang menarik dari pemaparan Dian adalah fenomena AI sebagai teman personal. Ia menyinggung kemunculan teman virtual berbasis AI yang dapat menjadi tempat seseorang bercerita, mencari perhatian, bahkan membangun kedekatan emosional.

Menurut Dian, hubungan semacam ini perlu dicermati, terutama ketika pengguna mulai mempercayai seluruh respons AI tanpa mempertanyakan kebenarannya.

Ia menyebut fenomena echo chamber, yaitu kondisi ketika seseorang terus menerima informasi yang menguatkan keyakinannya sendiri. Dalam konteks AI, risiko ini dapat muncul ketika sistem terus memberikan respons yang mengikuti asumsi atau delusi pengguna.

Karena itu, Dian mengingatkan bahwa AI tidak selalu menyampaikan informasi yang benar. Pengguna perlu memiliki kemampuan untuk memeriksa jawaban, memahami konteks, dan mencari pembanding dari sumber lain.

Kedaulatan Data Menjadi Isu Penting di Era AI

Selain kesehatan mental, Dian menyoroti kedaulatan data sebagai tantangan yang tidak bisa diabaikan. Menurutnya, perusahaan dan negara perlu memahami siapa yang menguasai data, di mana data disimpan, serta bagaimana informasi tersebut digunakan oleh sistem AI.

Ia mengangkat risiko ketika karyawan memasukkan informasi rahasia perusahaan ke layanan AI eksternal. Dian mencontohkan kasus Samsung pada 2023, ketika informasi internal perusahaan disebut masuk ke layanan AI.

Dian juga menggambarkan kemungkinan munculnya agen AI yang membawa pengetahuan dari perusahaan lama ketika seorang karyawan berpindah pekerjaan. Dalam situasi tersebut, pengetahuan digital yang melekat pada agen AI berpotensi menjadi persoalan keamanan dan kepemilikan data.

Baginya, perusahaan perlu membangun tata kelola AI sendiri, termasuk memahami agen digital yang digunakan dan batas akses terhadap informasi internal.

Jangan Menganggap AI Bisa Menjawab Semua Hal

Dian turut mengingatkan bahwa kemampuan AI memiliki batas. Teknologi ini dapat bekerja sangat baik pada tugas dengan aturan dan kondisi yang jelas, tetapi belum tentu akurat ketika diminta memprediksi situasi dunia nyata yang kompleks.

Ia mencontohkan penggunaan AI untuk peretasan dalam lingkungan dengan pola tertentu, yang berbeda dari tugas memprediksi harga pasar, aset kripto, atau hasil pemilu. Menurutnya, pengguna perlu memahami karakter dan keterbatasan sistem sebelum mempercayakan pekerjaan penting kepada AI.

Dian juga membahas fenomena halusinasi AI, yakni ketika sistem menghasilkan informasi yang terdengar meyakinkan tetapi tidak sesuai fakta. Ia menekankan pentingnya membangun sistem pemeriksaan berlapis dan memastikan manusia tetap bertanggung jawab atas keputusan akhir.

Literasi AI Harus Dibangun dari Dalam dan Luar Kelas

Untuk menjawab tantangan tersebut, Dian menjelaskan bahwa AI Association menjalankan sejumlah program yang mencakup penelitian, industri, pendidikan, sertifikasi, dan kolaborasi internasional.

Ia menyebut asosiasinya telah melakukan survei terhadap 4.000 Gen Z dan 1.000 eksekutif dari Aceh hingga Maluku. Dalam bidang pendidikan, Dian juga menyampaikan bahwa asosiasi telah bekerja sama dengan 120 universitas selama dua tahun terakhir dan memiliki sekitar 100.000 alumni pada tahun sebelumnya.

Kurikulum yang dikembangkan, menurut Dian, tidak hanya membahas keterampilan teknis. Materi juga mencakup fondasi AI, kesehatan mental, pola pikir, serta pemahaman mengenai risiko penggunaannya.

Pesan yang ingin ditegaskan Dian cukup sederhana, tetapi relevan untuk semua pengguna teknologi: manusia tidak boleh menyerahkan seluruh proses berpikir kepada AI.

“Tetap manusia, tetap bertanggung jawab,” menjadi prinsip yang ia tekankan dalam penutup presentasinya.

Bagi Urbie’s!, pesan ini penting di tengah semakin mudahnya AI hadir dalam kehidupan sehari-hari. Teknologi boleh membantu pekerjaan menjadi lebih cepat, tetapi kemampuan berpikir kritis, tanggung jawab, dan keputusan manusia tetap tidak bisa digantikan begitu saja.