Dalam sebuah perbincangan, seorang jemaat di gereja menyatakan kekuatirannya mengenai perkembangan teknologi kecerdasan buatan, yang lazim disebut sebagai “AI” (Artificial Intelligence). Kekuatiran yang sama juga dirasakan oleh banyak orang belakangan ini, khususnya ketika khalayak sudah bisa mencicipi akses kepada ChatGPT. Sebagai salah satu peranti lunak yang ditenagai oleh kecerdasan buatan, ChatGPT diramalkan akan dapat menggantikan ratusan juta lapangan pekerjaan[i] dengan kemampuannya untuk belajar dan berpikir layaknya manusia, namun dengan kemampuan berkali-kali lipat. Saat ini, ada ratusan dan bahkan mungkin ribuan teknologi berbasis kecerdasan buatan dengan berbagai keahlian seperti seorang profesional, seperti menciptakan gambar dan video, menggubah puisi, musik, dan lagu, serta banyak lainnya.
Namun demikian, AI, layaknya produk teknologi lainnya, tidak pernah bisa melakukan penilaian moral-etis secara mandiri, meskipun mungkin ia dapat memberikan jawaban normatif apabila ada yang menanyakannya. Manusia yang menciptakan serta menggunakannya lah yang memiliki kemampuan tersebut. Baru-baru ini, ada sebuah kasus hukum dimana seseorang bernama Michael Smith dari Carolina Utara dituntut karena menggunakan AI untuk menciptakan ratusan ribu lagu, mengunggahnya di berbagai platform musik berbayar, dan mengerahkan “pasukan bot” untuk menjadi “para pendengar” bagi lagu-lagunya tersebut. Aksi yang dimulainya sejak tahun 2018 ini memberinya penghasilan dari royalti hingga lebih dari 10 juta dolar Amerika.[1]
Sebagaimana pisau dapur yang awalnya diciptakan untuk memasak, namun oleh sebagian orang dipakai untuk melukai sesama, demikian pula baik-buruknya AI bergantung kepada para penggunanya. Arnold Pacey (1983) menawarkan cara memandang praktik teknologi yang dapat membantu kita dalam memahami perkembangan teknologi, termasuk AI, secara komprehensif, yang digambarkannya dengan ilustrasi di bawah ini:
Pada diagram di atas, Pacey membagi teknologi menjadi dua makna, yakni makna umum dan makna khusus. Pada makna khusus, teknologi hanya dikaitkan dengan aspek teknis, seperti pengetahuan, keterampilan, dan teknik. Sementara untuk pemaknaan teknologi secara umum, Pacey menambahkan dua aspek lain, yaitu aspek kebudayaan dan aspek organisasi. Setiap teknologi memiliki latar belakang budaya, seperti ideologi, nilai, tujuan, hingga kreativitas penemu atau penciptanya juga penggunanya. Teknologi juga sangat terkait dengan aspek organisasi, yakni ketika ia dipergunakan secara luas sehingga menimbulkan aktivitas-aktivitas ekonomi dan industri, tata-kelola perusahaan, serikat dagang, pemerintahan, hingga para pengguna.
Hal serupa dapat kita terapkan pada praktik penggunaan teknologi kecerdasan buatan. AI tidak muncul di ruang hampa, oleh karenanya setiap pengguna perlu memahami, bahwa AI bukanlah mesin yang 100 persen “berdikari” dalam respon-responnya, melainkan ada orang-orang di baliknya yang telah menentukan tujuan serta batasannya. Itu sebabnya, kita tidak boleh beranggapan, bahwa semua respon atau jawaban AI itu 100 persen akurat—sama seperti disclaimer dari mesin-mesin AI, seperti ChatGPT, Perplexity, Claude, dan sebagainya.
Tahun 2023 lalu, model terbaru kecerdasan buatan, yakni GPT-4, bahkan dapat mengelabui seseorang yang bekerja sebagai pekerja serabutan secara daring untuk membantunya memecahkan kode sandi CAPTCHA yang didesain hanya dapat terbaca oleh manusia, dengan alasan, bahwa ia mengalami kelemahan penglihatan.[ii]
Insiden serupa terjadi pada saat pengacara Steven Schwartz memakai ChatGPT untuk mencari referensi hukum dalam kasus gugatan karyawan Avianca, Roberto Mata. Tanpa disadari, Schwartz memasukkan enam kasus fiktif yang ditampilkan oleh ChatGPT dalam dokumen yang diajukan ke pengadilan, dan Hakim Kevin Castel menemukan kesalahan ini. Schwartz mengaku baru pertama kali memakai ChatGPT untuk riset hukum dan tidak menyangka informasi dari AI bisa keliru. Akibatnya, ia dan rekannya Peter LoDuca didenda $5,000 oleh Hakim Castel pada Juni 2023, sementara gugatan Mata terhadap Avianca dibatalkan.[iii]
Kisah-kisah di atas menunjukkan, bahwa rupanya integritas data atau kejujuran menjadi prioritas kesekian bagi kecerdasan buatan, sehingga kita perlu menyisakan keraguan terhadap jawaban-jawabannya, terutama apabila berkaitan dengan data faktual. Ketidakmampuan AI untuk memperhitungkan dan memberikan respon dengan tetap menjaga moralitas serta etika secara mandiri inilah yang perlu kita waspadai.
Tentu saja selain dari hal-hal yang perlu diwaspadai, ada banyak potensi kegunaan AI dalam meningkatkan kualitas hidup manusia. Sekali lagi, itu bergantung kepada para perancang serta penggunanya. Secara teknis, kecerdasan buatan merupakan sebuah lompatan yang luar biasa dalam perkembangan teknologi. Namun, kita tidak boleh hanya berhenti pada mengagumi atau merasa takut akan kehebatan teknologi AI tersebut, melainkan terus mewaspadai implikasi-implikasi praktis apa yang mungkin akan muncul dari keberadaan serta penggunaan kecerdasan buatan tersebut, baik implikasi positif, maupun implikasi negatifnya.
Salam waspada!
[1] https://www.vice.com/en/article/ai-songs-spotify-scam/
[i] https://www.yahoo.com/lifestyle/chatgpt-took-jobs-now-walk-153907400.html
[ii] https://www.iflscience.com/gpt-4-hires-and-manipulates-human-into-passing-captcha-test-68016
[iii] https://natlawreview.com/article/brief-hallucination-generative-ai-can-land-you-hot-water
Satu pemikiran di “Mewaspadai AI”