Perkembangan pesat kecerdasan buatan telah mengejutkan kebanyakan dunia, tetapi impaknya paling mendalam dan pantas adalah dalam kalangan generasi muda. Berhadapan dengan senario ini, Sepanyol telah memutuskan untuk menerajui peringkat antarabangsa dengan mencadangkan penubuhan gabungan negara-negara untuk bekerjasama secara terselaras di bawah naungan Pertubuhan Bangsa-Bangsa Bersatu. Inisiatif ini, yang dibentangkan di Geneva, mempunyai objektif utamanya iaitu penubuhan piawaian keselamatan minimum untuk menjamin bahawa sebarang pembangunan teknologi menghormati hak dan pertumbuhan kanak-kanak dan remaja yang sihat.
Penggunaan teknologi ini sudah menjadi realiti seharian di bilik darjah dan rumah dalam bahasa Sepanyol, di mana golongan muda menggunakannya untuk semua jenis tugas, daripada menyelesaikan keraguan akademik hinggalah mendapatkan sokongan emosi. Walau bagaimanapun, penggunaan meluas ini tidak selalunya mempunyai perlindungan yang diperlukan, menyebabkan pintu terbuka kepada risiko daripada pemprofilan pengiklanan hinggalah pendedahan kepada aplikasi kecerdasan buatan palsu yang boleh menjejaskan keselamatan mereka. Oleh itu, cadangan Sepanyol bukan sahaja bertujuan untuk peraturan tempatan, tetapi juga perjanjian global yang mengelakkan kelemahan sah dalam persekitaran digital yang, seperti yang kita semua tahu, tidak mengiktiraf sempadan fizikal.
Barisan bersatu menentang risiko manipulasi algoritma
Gabungan antarabangsa itu sudah mendapat sokongan padu daripada negara-negara seperti Perancis, Kenya dan Kesatuan Eropah sendiri, sekali gus mengukuhkan kedudukan Sepanyol sebagai juara hak digital. Menteri Óscar López telah menjelaskan perkara ini dengan sangat jelas, dengan menyatakan bahawa penyahkawalseliaan mutlak bukanlah pilihan yang berdaya maju jika kita ingin mengelakkan daripada mengulangi kesilapan lalu yang dibuat dengan platform digital lain. Matlamatnya adalah untuk sistem kecerdasan buatan dapat selamat daripada fasa reka bentuk, menganalisis terlebih dahulu bagaimana mereka boleh mempengaruhi tingkah laku kanak-kanak bawah umur atau jenis data peribadi yang mereka perlukan untuk berfungsi.
Salah satu perkara yang paling membimbangkan pakar ialah keupayaan sistem ini untuk memperibadikan kandungan pada tahap yang ekstrem. Walaupun ini berguna untuk pembelajaran, ia juga boleh menyebabkan manipulasi halus terhadap minat atau reaksi pengguna. Kanak-kanak, yang berada dalam peringkat perkembangan penuh, amat terdedah kepada teknik pujukan yang kadangkala orang dewasa pun gagal mengesannya tepat pada masanya. Itulah sebabnya ditekankan bahawa syarikat teknologi mesti memikul tanggungjawab yang lebih besar apabila produk mereka boleh diakses oleh kanak-kanak.
Dalam hal ini, institusi Sepanyol telah mengambil tindakan dalaman. Agensi Sepanyol untuk Penyeliaan Kecerdasan Buatan (AESIA) telah menubuhkan kumpulan kerja khusus untuk menangani cabaran sosial dan etika ini. Matlamatnya adalah untuk menjangka perubahan teknologi supaya, apabila alat baharu sampai kepada pelajar, langkah perlindungan telah pun disediakan. mekanisme kawalan dan penyiasatan yang melindungi kesejahteraan mereka. Ia bukan tentang memasang pagar di sekeliling padang, tetapi tentang memastikan padang permainan selamat untuk semua orang.
Realiti penggunaan AI dalam generasi baharu
Data yang dikendalikan oleh organisasi seperti UNICEF agak mendedahkan dan memberi kita gambaran tentang skala isu ini. Dianggarkan kira-kira 20 juta kanak-kanak sudah berinteraksi dengan alatan AI, mewakili kadar penggunaan tiga kali ganda lebih tinggi daripada ibu bapa atau penjaga mereka. Bagi kebanyakan orang, sekolah adalah pintu masuk utama, menggunakan sistem ini untuk buat kerja rumah atau terjemah teksMenariknya, sebilangan besar golongan muda ini juga beralih kepada chatbot untuk mendapatkan nasihat tentang masalah peribadi, sekali gus mewujudkan hubungan kepercayaan dengan mesin yang tidak selalunya dilengkapi untuk menangani situasi sedemikian.
Jurang digital generasi ini merupakan salah satu halangan terbesar, kerana ramai ibu bapa mengakui tidak pernah menggunakan alat ini, menyukarkan mereka untuk membimbing anak-anak mereka dengan berkesan. Oleh itu, literasi digital menjadi bahagian penting dalam teka-teki ini. Daripada sekadar melarang, pakar-pakar menyokong ajar kanak-kanak mengenal pasti apabila mereka dimanipulasi oleh algoritma atau cara melindungi privasi mereka. Ideanya adalah untuk mewujudkan warganegara yang berdaya tahan yang tahu cara menavigasi dunia di mana AI akan berada di mana-mana.
Sebaliknya, terdapat kebimbangan yang semakin meningkat tentang penggunaan AI untuk menghasilkan kandungan palsu. Deepfake telah berubah daripada sekadar rasa ingin tahu teknologi kepada alat untuk gangguan dan pemerasan. Sepanyol telah menerajui Eropah dalam melarang manipulasi jenis ini apabila ia bersifat seksual, satu amalan yang memberi kesan yang tidak seimbang kepada kanak-kanak bawah umur. Walaupun Peraturan AI Eropah telah menetapkan kewajipan ketelusan, kerosakan emosi yang disebabkan oleh imej-imej ini boleh menjadi dahsyat, itulah sebabnya terdapat seruan untuk... tindakan jenayah dan pentadbiran yang tegas terhadap mereka yang menggunakan keselamatan siber dalam kod yang dijana AI untuk mengganggu orang lain.
Ke arah rangka kerja kawal selia yang tidak meninggalkan sesiapa pun di belakang
Adalah penting untuk memahami bahawa, walaupun gabungan antarabangsa itu belum mengenakan sekatan langsung, ia sedang membuka jalan untuk apa yang akan datang. Syarikat yang beroperasi di Sepanyol mesti mematuhi peraturan ketat seperti Peraturan Perlindungan Data Umum (GDPR) dan Akta Perkhidmatan Digital. Peraturan ini melarang, sebagai contoh, platform daripada memaparkan pengiklanan berasaskan profil apabila mereka tahu pengguna itu masih di bawah umur. Matlamatnya adalah untuk Privasi harus menjadi pilihan lalai. dan bukan sesuatu yang perlu dikonfigurasikan oleh pengguna selepas menavigasi melalui menu yang tidak berkesudahan.
Pengesahan umur merupakan satu lagi perkara penting dalam perdebatan ini. Hanya menambah kotak pilihan 'Saya berumur lebih 14 tahun' tidak mencukupi jika kandungan yang ditawarkan berisiko tinggi. Suruhanjaya Eropah mencadangkan bahawa langkah-langkah ini mestilah berkesan tetapi juga... menghormati privasi warganegaramengelakkan pengumpulan data lebih daripada yang diperlukan. Ia adalah keseimbangan yang halus: melindungi kanak-kanak tanpa menjadikan internet sebagai ruang pengawasan berterusan untuk seluruh populasi.
Akhirnya, kejayaan cadangan ini bergantung kepada kemahuan politik dan kerjasama gergasi teknologi. Jika gabungan itu berjaya membawa lebih banyak negara menyertainya, kita mungkin akan melihat piawaian keselamatan teknikal diguna pakai di seluruh dunia tidak lama lagi, membolehkan keluarga bernafas lebih lega. Sementara itu, alat terbaik tetap komunikasi langsung antara orang dewasa dan kanak-kanak, membimbing penerokaan teknologi ini dengan pandangan kritis dan mewujudkan sempadan yang jelas untuk mengelakkan dunia maya daripada menelan realiti golongan muda sepenuhnya.
Kemajuan kecerdasan buatan tidak dapat dihentikan, tetapi itu tidak bermakna ia harus berlaku tanpa kawalan atau etika. Sepanyol telah mengambil langkah untuk menjadikan perlindungan kanak-kanak sebagai keutamaan mutlak dalam agenda global, dengan mencari konsensus yang melindungi kanak-kanak bawah umur Memandangkan risiko maklumat salah dan penyalahgunaan, dan dengan sokongan PBB dan rakan strategik Eropah, laluan ke arah teknologi yang lebih berperikemanusiaan dan selamat kelihatan sedikit lebih jelas, walaupun masih banyak kerja yang perlu dilakukan untuk memastikan undang-undang seiring dengan inovasi.
