Dalam era Revolusi Perindustrian 4.0, teknologi kecerdasan buatan (AI) dan Internet of Things (IoT) telah menjadi pemacu utama dalam membentuk dunia digital yang lebih pintar dan berhubung. AI dalam IoT bukan sekadar mengautomasikan tugas-tugas harian, malah ia mampu memberikan analitik data yang lebih mendalam dan membuat keputusan secara autonomi. Namun, persoalan yang semakin mendapat perhatian ialah bagaimana kita boleh memastikan AI dalam IoT digunakan secara bertanggungjawab dan beretika? Disini datangnya peranan Responsible AI.
Responsible AI merujuk kepada pembangunan dan penggunaan AI yang bersifat telus, adil, boleh dipercayai dan beretika. Dalam konteks IoT, ini bermaksud memastikan bahawa sistem yang dibangunkan menghormati hak pengguna, melindungi privasi dan tidak menyalahgunakan data. Sebagai contoh, peranti rumah pintar seperti kamera keselamatan dan perakam suara mengumpul data pengguna secara berterusan. Dalam konteks rumah pintar, peranti mengumpul data lebih dari seorang pengguna manakala Kerangka Responsible AI memastikan bahawa data digunakan dengan cara yang telus untuk tujuan yang sah serta dilindungi daripada akses tanpa kebenaran.
Di Malaysia, beberapa pihak seperti Kementerian Sains, Teknologi dan Inovasi (MOSTI), Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) dan Jabatan Perlindungan Data Peribadi (JPDP) memainkan peranan penting dalam memastikan AI digunakan secara bertanggungjawab, kukuh keselamatan siber serta mematuhi peraturan berkaitan privasi data dalam ekosistem IoT. Dalam konteks penyelarasan pembangunan AI negara dengan piawaian global, Garis Panduan Nasional mengenai Tadbir Urus dan Etika AI telah dikeluarkan pada September 2024 untuk memberi panduan kepada pelbagai pihak berkepentingan, selaras dengan usaha Kerajaan Malaysia dalam mengadaptasi AI untuk pertumbuhan ekonomi dan kesejahteraan Masyarakat. Garis panduan tersebut menetapkan 7 prinsip yang perlu diberi fokus.
- Keadilan: Sistem AI mesti direka bentuk untuk mengelakkan bias dan diskriminasi. Ia harus memastikan akses yang adil kepada manfaat AI merentasi pelbagai demografi.
- Kebolehpercayaan, Keselamatan, dan Kawalan: Garis panduan menekankan bahawa teknologi AI mesti diuji dengan teliti untuk memastikan ia berfungsi seperti yang diinginkan. Sistem harus direka bentuk dengan mekanisme keselamatan yang kukuh serta tertakluk kepada pemantauan ketat, terutamanya dalam aplikasi sensitif seperti penjagaan kesihatan atau kenderaan autonomi.
- Privasi dan Keselamatan: Melindungi data peribadi adalah keutamaan utama. Sistem AI mesti memastikan data dikumpulkan dengan persetujuan yang dimaklumkan dan disimpan dengan selamat bagi mengelakkan kebocoran. Sistem ini juga harus mematuhi piawaian antarabangsa berkaitan perlindungan data dan privasi.
- Keterangkuman: AI mesti boleh diakses oleh semua lapisan masyarakat. Garis panduan menggesa pembangun untuk mempertimbangkan keperluan kumpulan terpinggir serta menggalakkan kepelbagaian dalam kalangan pencipta AI.
- Ketelusan: Sistem AI mesti dapat difahami oleh pengguna dan pihak berkepentingan. Prinsip ini menekankan komunikasi yang jelas mengenai cara sistem AI beroperasi dan bagaimana keputusan dibuat bagi membolehkan pengguna mencabar keputusan jika perlu.
- Kebertanggungjawaban: Pembangun, pengendali dan pihak yang melaksanakan teknologi AI bertanggungjawab terhadap hasilnya. Garis panduan menuntut dokumentasi yang jelas mengenai siapa yang bertanggungjawab terhadap keputusan AI pada setiap peringkat pelaksanaan.
- Pengejaran Manfaat dan Kebahagiaan Manusia: Matlamat utama AI di Malaysia adalah untuk meningkatkan kesejahteraan manusia dan kemajuan masyarakat. Prinsip ini menegaskan bahawa AI harus digunakan untuk memberi manfaat kepada masyarakat secara keseluruhan, meningkatkan kualiti hidup dan menjaga maruah manusia.
Dalam kemajuan AI dan IoT di persada perkembangan teknologi, Responsible AI sebagai sisi pelengkap ekosistem kurang mendapat fokus penyelidikan. Universiti dan pusat-pusat penyelidikan bertanggungjawab membantu melengkapkan garis panduan serta membangunkan rangka yang lebih holistik melalui pelbagai pendekatan, terutamanya dari aspek pembangunan AI yang mampan dan mengambilkira kepelbagaian latarbelakang pengguna. Bagaimana pengguna boleh dididik dan diperkasakan untuk mengawal data mereka sendiri, termasuk keupayaan bagaimana data mereka digunakan.
Kesimpulan
AI dan IoT menawarkan pelbagai kelebihan dalam meningkatkan kecekapan dan kemudahan hidup, namun ia juga membawa cabaran besar dari segi keselamatan, privasi dan etika. Responsible AI dalam IoT bukan lagi satu pilihan, tetapi satu keperluan dalam membentuk ekosistem teknologi yang selamat dan boleh diyakini. Dengan pendekatan yang betul, kita dapat memastikan bahawa inovasi teknologi terus berkembang tanpa mengorbankan hak dan keselamatan pengguna serta memastikan keberlanjutan ekosistem digital dengan fokus pada manusia sebagai pengguna.
Oleh:
Asma’ Abu Samah
Pensyarah Jabatan Kejuruteraan Elektrik, Elektronik dan Sistem
Universiti Kebangsaan Malaysia
