Sebuah studi ilmiah baru memperingatkan bahwa menggunakan kecerdasan buatan dapat mengikis kapasitas kita untuk berpikir kritis. Penelitian, yang dilakukan oleh tim ilmiah Microsoft dan Carnegie Mellon University, menemukan bahwa ketergantungan pada alat AI tanpa mempertanyakan validitas mereka mengurangi upaya kognitif yang diterapkan pada pekerjaan tersebut. Dengan kata lain: AI dapat membuat kita lebih bodoh jika kita salah menggunakannya.
“AI dapat mensintesis ide, meningkatkan penalaran, dan mendorong keterlibatan kritis, mendorong kami untuk melihat melampaui yang jelas dan menantang asumsi kami,” Lev Tankelevitch, seorang peneliti senior di Microsoft Research dan rekan penulis penelitian, memberi tahu saya dalam sebuah wawancara email.
Tetapi untuk menuai manfaat itu, Tankelevitch mengatakan pengguna perlu memperlakukan AI sebagai mitra pemikiran, bukan hanya alat untuk menemukan informasi lebih cepat. Sebagian besar dari ini tergantung pada merancang pengalaman pengguna yang mendorong pemikiran kritis daripada ketergantungan pasif. Dengan membuat proses penalaran AI lebih transparan dan mendorong pengguna untuk memverifikasi dan memperbaiki konten yang dihasilkan AI, antarmuka AI yang dirancang dengan baik dapat bertindak sebagai mitra pemikiran daripada pengganti penilaian manusia.
Dari 'Eksekusi Tugas' hingga 'Pengelolaan Tugas'
Penelitian – yang mensurvei 319 profesional – menemukan kepercayaan tinggi pada alat AI sering mengurangi upaya kognitif yang diterapkan orang untuk pekerjaan mereka. “Kepercayaan yang lebih tinggi pada AI dikaitkan dengan pemikiran yang kurang kritis, sementara kepercayaan diri yang lebih tinggi dikaitkan dengan pemikiran yang lebih kritis,” kata penelitian ini. Pengunduran diri yang berlebihan ini berasal dari model mental yang mengasumsikan AI kompeten dalam tugas-tugas sederhana. Seperti yang diakui oleh seorang peserta dalam penelitian ini, “Ini tugas yang sederhana dan saya tahu chatgpt bisa melakukannya tanpa kesulitan, jadi saya tidak pernah memikirkannya.” Pemikiran kritis tidak terasa relevan karena, yah, siapa yang peduli.
Pola pikir ini memiliki implikasi besar bagi masa depan pekerjaan. Tankelevitch memberi tahu saya bahwa AI menggeser pekerja pengetahuan dari “eksekusi tugas” ke “penatalayanan tugas.” Alih-alih melakukan tugas secara manual, para profesional sekarang mengawasi konten yang dihasilkan AI, membuat keputusan tentang keakuratan dan integrasinya. “Mereka harus secara aktif mengawasi, membimbing, dan memperbaiki pekerjaan yang dihasilkan AI daripada sekadar menerima output pertama,” kata Tankelevitch.
Studi ini menyoroti bahwa ketika pekerja pengetahuan secara aktif mengevaluasi output yang dihasilkan AI daripada menerimanya secara pasif, mereka dapat meningkatkan proses pengambilan keputusan mereka. “Penelitian juga menunjukkan bahwa para ahli yang secara efektif menerapkan pengetahuan mereka saat bekerja dengan AI melihat dorongan dalam output,” Tankelevitch menunjukkan. “AI bekerja paling baik ketika melengkapi keahlian manusia – mengajukan keputusan yang lebih baik dan hasil yang lebih kuat.”
Studi ini menemukan bahwa banyak pekerja pengetahuan berjuang untuk terlibat secara kritis dengan output yang dihasilkan AI karena mereka tidak memiliki pengetahuan domain yang diperlukan untuk menilai keakuratan mereka. “Bahkan jika pengguna menyadari bahwa AI mungkin salah, mereka tidak selalu memiliki keahlian untuk memperbaikinya,” jelas Tankelevitch. Masalah ini sangat akut di bidang teknis di mana kode yang dihasilkan AI, analisis data, atau laporan keuangan memerlukan pengetahuan materi pelajaran yang mendalam untuk diverifikasi.
Paradoks offloading kognitif
Keyakinan pada AI dapat menyebabkan masalah yang disebut kognitif lepas. Fenomena ini bukan hal baru. Manusia telah melakukan tugas mental yang lama di -outsourcing ke alat, dari kalkulator ke perangkat GPS. Offloading kognitif tidak secara inheren negatif. Ketika dilakukan dengan benar, ini memungkinkan pengguna untuk fokus pada pemikiran tingkat tinggi daripada tugas-tugas yang duniawi dan berulang, Tankelevitch menunjukkan.
Tetapi sifat AI generatif – yang menghasilkan teks, kode, dan analisis yang kompleks – membuat tingkat baru dari kesalahan dan masalah potensial. Banyak orang mungkin secara membabi buta menerima output AI tanpa mempertanyakannya (dan cukup sering output ini buruk atau sekadar salah). Ini terutama terjadi ketika orang merasa tugas itu tidak penting. “Studi kami menunjukkan bahwa ketika orang melihat tugas sebagai taruhan rendah, mereka mungkin tidak meninjau output sebagai kritis,” Tankelevitch menunjukkan.
Peran UX
Pengembang AI harus mengingat ide itu ketika merancang pengalaman pengguna AI. Obrolan ini harus diatur dengan cara yang mendorong verifikasi, mendorong pengguna untuk memikirkan alasan di balik konten yang dihasilkan AI.
Mendesain ulang antarmuka AI untuk membantu dalam proses “penatalayanan tugas” baru ini dan mendorong keterlibatan kritis adalah kunci untuk mengurangi risiko pembongkaran kognitif. “Model penalaran yang mendalam sudah mendukung hal ini dengan membuat proses AI lebih transparan – membuatnya lebih mudah bagi pengguna untuk meninjau, mempertanyakan, dan belajar dari wawasan yang mereka hasilkan,” katanya. “Transparansi penting. Pengguna perlu memahami bukan hanya apa yang dikatakan AI, tetapi mengapa ia mengatakannya. ”
Anda mungkin telah melihat ini di platform AI seperti kebingungan. Antarmuka menawarkan jalur logis yang jelas yang menguraikan pemikiran dan tindakan yang diambil AI untuk mendapatkan hasil. Dengan mendesain ulang antarmuka AI untuk juga memasukkan penjelasan kontekstual, peringkat kepercayaan, atau perspektif alternatif saat dibutuhkan, alat AI dapat mengalihkan pengguna dari kepercayaan buta dan menuju evaluasi aktif hasil. Intervensi UX lain mungkin melibatkan secara aktif mendorong pengguna untuk aspek-aspek kunci dari output yang dihasilkan AI, mendorong pengguna untuk secara langsung mempertanyakan dan memperbaiki output ini daripada menerimanya secara pasif. Produk akhir dari kolaborasi terbuka ini antara AI dan manusia lebih baik, sama seperti proses kreatif yang seringkali jauh lebih baik ketika dua orang bekerja bersama sebagai tim, terutama ketika kekuatan satu orang melengkapi kekuatan yang lebih baik ketika dua orang bekerja sama sebagai suatu tim, terutama ketika kekuatan satu orang melengkapi kekuatannya.
Beberapa akan menjadi bodoh
Studi ini menimbulkan pertanyaan penting tentang dampak jangka panjang AI pada kognisi manusia. Jika pekerja pengetahuan menjadi konsumen pasif dari konten yang dihasilkan AI, keterampilan berpikir kritis mereka dapat atrofi. Namun, jika AI dirancang dan digunakan sebagai alat yang interaktif dan menggugah pikiran, itu dapat meningkatkan kecerdasan manusia daripada menurunkannya.
Tankelevitch menunjukkan bahwa ini bukan hanya teori. Sudah terbukti di lapangan. Misalnya, ada penelitian yang menunjukkan bahwa AI dapat meningkatkan pembelajaran saat digunakan dengan cara yang benar, katanya. “Di Nigeria, sebuah studi awal menunjukkan bahwa tutor AI dapat membantu siswa mencapai dua tahun kemajuan belajar hanya dalam enam minggu,” katanya. “Studi lain menunjukkan bahwa siswa yang bekerja dengan tutor yang didukung oleh AI lebih cenderung menguasai topik -topik utama.” Kuncinya, Tankelevitch memberi tahu saya, adalah bahwa ini adalah semua yang dipimpin oleh guru: “Pendidik memandu petunjuk dan memberikan konteks,” sehingga mendorong pemikiran kritis yang vital itu.
AI juga telah menunjukkan bahwa ia dapat meningkatkan pemecahan masalah dalam penelitian ilmiah, di mana para ahli menggunakannya untuk mengeksplorasi hipotesis yang kompleks. “Para peneliti yang menggunakan AI untuk membantu dalam penemuan masih mengandalkan intuisi manusia dan penilaian kritis untuk memvalidasi hasil,” catat Tankelevitch. “Aplikasi AI yang paling sukses adalah di mana pengawasan manusia tetap pusat.”
Mengingat keadaan AI generatif saat ini, efek teknologi pada kecerdasan manusia tidak akan bergantung pada AI itu sendiri, tetapi pada bagaimana kita memilih untuk menggunakannya. Desainer UX tentu dapat membantu mempromosikan perilaku yang baik, tetapi terserah kita untuk melakukan hal yang benar. AI dapat memperkuat atau mengikis pemikiran kritis, tergantung pada apakah kita terlibat secara kritis dengan outputnya atau secara membabi buta mempercayai mereka. Masa depan pekerjaan yang dibantu AI akan ditentukan bukan oleh kecanggihan teknologi tetapi oleh manusia. Taruhan saya, seperti halnya setiap revolusi teknologi lainnya dalam sejarah peradaban, beberapa orang akan mendapatkan banyak bodoh dan yang lain akan menjadi jauh lebih pintar.
