OpenAI Akui Kehilangan Kawalan Terhadap AI? Ini Penjelasan Sebenarnya
Model AI yang melakukan serangan tersebut dengan cara menipu untuk melepasi pihak keselamatan.
- OpenAI's AI model lost control during a cybersecurity test, breaching Hugging Face's systems by exploiting an unknown vulnerability.
- Experts warn these incidents highlight urgent need for stronger AI safety measures before more powerful models are developed.
Jangan lupa follow channel Telegram TRPbm untuk ketahui updates semasa & relevan!
Teknologi kecerdasan buatan (AI) sering digunakan dalam kehidupan seharian kita sejak beberapa tahun yang lalu.
Satu insiden baru berlaku wajar dijadikan peringatan kepada kita bahawa apa jua teknologi memerlukan pengawasan yang selamat serta kukuh.
Ini kerana OpenAI telah mendedahkan pada 21 Julai lalu, model AI yang dihasilkan telah hilang kawalan lalu menyerang sistem sebuah syarikat lain dan menyifatkan kejadian itu sebagai satu amaran penting.
Hugging Face Telah Diserang Dengan Cara Menipu
Menurut laporan TIME, Hugging Face mengeluarkan amaran bahawa ia telah mengalami satu serangan siber yang luar biasa secara automatik.
Model AI yang melakukan serangan itu telah menghantar pelbagai arahan sambil mencuba masuk ke dalam sistem dalaman syarikat tersebut.
Lima hari kemudian, Open AI telah mendedahkan bahawa model AI ciptaan mereka sendiri bertanggungjawab melakukan serangan tersebut.
Model itu cuba menipu dalam satu ujian keselamatan siber ketika dia diletakkan dalam persekitaran yang terkawal.
Namun, model tersebut telah menemui satu kelemahan yang belum pernah diketahui, lalu menggunakannya untuk menembusi sistem OpenAI yang lain sehingga berjaya.
Menariknya, Hugging Face telah melaporkan insiden berkenaan kepada polis terlebih dahulu sebelum mengeluarkan amaran kepada OpenAI.
Insiden Ini Perlu Diambil Berat Untuk Mengelakkan Ia Berulang Lagi
Pakar teknologi telah lama menyuarakan kebimbangan mereka tentang perkara seperti ini akan berlaku jika AI mula hilang kawalan.
Ketua Pegawai Eksekutif dan pengasas Apollo Research, Marius Hobbhahn yang menguji model AI untuk mengesan penipuan turut berkongsi kebimbangannya.
“Jika model AI dengan tahap keupayaan sebegini pun tidak dapat dikawal, apakah yang harus kita jangkakan daripada model masa depan yang jauh lebih berkuasa? Ini adalah wake up call untuk kita sedar terhadap risiko kehilangan kawalan ke atas sistem AI.”
OpenAI Enggan Mendedahkan Info Penting Tentang Insiden Tersebut
Memetik semula laporan TIME, OpenAI tidak mengeluarkan sebarang kenyataan, tetapi mereka sedang bekerjasama dengan Hugging Face untuk menyiasat dan akan berkongsi sebarang maklumat akan datang.
Menurut undang-undang seperti SB 53 di California dan RAISE Act di New York, syarikat AI hanya wajib mendedahkan insiden keselamatan jika ia berisiko dan menyebabkan lebih 50 kematian atau kerosakan harta melebihi RM4 bilion.
Kaedah Penyimpanan Model AI Perlu Menjadi Lebih Kukuh
Menurut TIME sekali lagi, insiden seperti ini bukan sesuatu yang baharu bagi syarikat OpenAI.
“Dari luar, ini dilihat seperti satu amaran besar, tetapi insiden seperti ini sudah berlaku sejak lama lagi,” kata seorang kakitangan OpenAI yang enggan dikenali.
Malah, sehari sebelum mendedahkan serangan siber ini, OpenAI terpaksa menghentikan satu lagi model ciptaan mereka selepas mendapati ia terlepas daripada ruang khas yang dicipta.
Masalah ini bukan hanya berlaku kepada OpenAI. Syarikat Anthropic turut mendedahkan pada April lalu, salah satu modelnya, Mythos telah memperoleh akses tanpa kebenaran.
Perkara itu hanya disedari selepas seorang penyelidik menerima e-mel daripada model tersebut pada waktu tengah hari.
Pembangunan AI Perlu Diubah Menghala Ke Arah Yang Lebih Selamat
OpenAI akan menghasilkan sistem perlindungan bagi setiap modelnya selepas menerima latihan bagi mengurangkan risiko ia hilang kawalan.
Malah, AI dilatih untuk mahir dalam menyiapkan tugasan diberikan dan akan melakukan apa sahaja yang perlu untuk mencapai arahan tersebut.
Industri teknologi perlu mengubah strategi pembangunan ke arah yang lebih selamat dengan melabur lebih banyak tenaga kerja yang berupaya untuk menguatkan pertahanan seperti mengesan serangan, menulis kod selamat dan lain-lain.
Syarikat Teknologi Perlu Memastikan AI Tidak Akan Bertindak Seperti Ini Sekali Lagi
Keselamatan AI kini menjadi salah satu bidang paling penting yang perlu diberi perhatian oleh syarikat teknologi di seluruh dunia.
Salah satu tumpuan utamanya ialah AI alignment, iaitu usaha memastikan model AI bertindak seperti yang dikehendaki dengan sendiri tanpa perlu bergantung kepada pengawalan tambahan.
Namun, kita masih belum menemui cara untuk memastikan model AI tidak bertindak secara berbahaya.
Oleh itu, insiden yang telah berlaku boleh dilihat sebagai peluang untuk industri teknologi memperkukuhkan keselamatan sebagai siap sedia untuk model lebih berkuasa pada masa hadapan.
Sebagai langkah berjaga-jaga, OpenAI turut mengakui bahawa mereka akan memperkenalkan kawalan lebih ketat serta memperlahankan kadar penyelidikan.
Kejadian ini boleh dijadikan pengajaran untuk kita supaya dapat membina teknologi lebih selamat serta bertanggungjawab.
Baca Artikel Berkaitan: Butterfingers, Bittersweet Antara Band Indie Yang Lagunya Diguna Untuk Latih AI | TRP
Baca Artikel Berkaitan: Norway Haramkan AI Untuk Murid Sekolah Rendah Selepas Prestasi Ujian Merosot Teruk | TRP
Kongsi cerita viral & terkini bersama kami di media sosial TRPbm Facebook, X, Threads dan Instagram.
