KTT Keamanan AI Inggris

KTT Keamanan AI Inggris – Meta, OpenAI, dan Google termasuk di antara perusahaan yang ikut serta dalam KTT Risiko dan Penyalahgunaan AI yang diselenggarakan oleh Perdana Menteri Rishi Sunak.

 

KTT Keamanan AI Inggris

lxnews – Inggris meluncurkan pertemuan puncak kecerdasan buatan yang pertama, mempertemukan para kepala negara dan raksasa teknologi di sebuah landmark teknologi dekat London.

KTT dua hari tersebut dimulai pada hari Rabu seiring dengan berkembangnya kekhawatiran bahwa teknologi baru dapat mengancam umat manusia. Pertemuan ini akan fokus pada pengembangan strategi aksi global yang terkoordinasi untuk memerangi risiko dan penyalahgunaan alat AI.

Dimana dan kapan puncaknya KTT ?

Acara ini diadakan di Bletchley Park di Buckinghamshire, tempat para pemecah kode terkemuka Inggris memecahkan kode Enigma Nazi Jerman selama Perang Dunia II. Tim tersebut, termasuk pionir komputasi Alan Turing, menggunakan komputer pertama di dunia yang dapat diprogram secara digital. National Museum of Computing di Bletchley Park memiliki koleksi komputer bersejarah yang berfungsi terbesar di dunia.

Inggris saat ini memiliki perusahaan AI dua kali lebih banyak dibandingkan negara Eropa lainnya. Sektor AI mempekerjakan lebih dari 50.000 orang dan menyumbang £3,7 miliar ($4,5 miliar) terhadap perekonomian setiap tahunnya. London juga menjadi kantor pertama pengembang Obrolan GPT OpenAI di luar AS pada bulan Juni.

Tipnya tentang apa?

KTT ini akan fokus pada kecerdasan buatan terbatas, yang menurut OpenAI didefinisikan sebagai “model inti berkinerja tinggi yang mungkin memiliki sifat berbahaya yang cukup untuk menimbulkan ancaman signifikan terhadap keselamatan publik.”

Meskipun Sunak telah menegaskan kembali potensi manfaat kecerdasan buatan dalam beberapa minggu terakhir, ia mengatakan bahaya yang tidak diketahui dari alat-alat ini juga memerlukan perencanaan dan peraturan yang dapat memastikan pengembangan teknologi yang lebih aman.

Tujuan dari KTT ini adalah untuk mengajak para peserta untuk “bekerja menuju pemahaman bersama mengenai risiko” dan mengoordinasikan upaya global untuk meminimalkan risiko, menurut situs web pemerintah Inggris.

Apa agendanya?

Agendanya adalah kemungkinan penyalahgunaan sistem kecerdasan buatan oleh teroris untuk menciptakan senjata biologis dan potensi teknologi yang melampaui kecerdasan manusia dan mendatangkan malapetaka di dunia.

Menurut program yang diterbitkan oleh pemerintah Inggris, agenda hari pertama mencakup diskusi tentang risiko kecerdasan buatan tingkat lanjut terhadap keamanan dan masyarakat global, serta bahaya kehilangan kendali atas teknologi.

Pada hari kedua, perwakilan akan menjawab pertanyaan tentang bagaimana mengurangi risiko tersebut dan mengembangkan kecerdasan buatan dengan lebih bertanggung jawab. This discussion will examine the role that various groups from the scientific community to national policymakers can play in this combined effort.

Who participates?

About 100 people will attend, but the full list of guests has not been announced, according to the Reuters news agency. Participants will include heads of state, leading AI companies, civil society groups and research experts.

• Some important figures known to be attending include:
• US Vice President Kamala Harris
• China’s Deputy Minister of Technology, Wu Zhaohui
• CEO of UN Antonio Guterres
• Italian Prime Minister Giorgia Meloni, who was the only
• G7 leader in attendance
• OpenAI CEO Sam Altman and executives from other AI companies, including Meta, Anthropic and Deepmind UK-based Google

Musk and Sunak will close the summit with discussions broadcast live on X.

Apa yang menjadi perhatian utama kecerdasan buatan?

Beberapa orang mengkritik KTT Sunak karena “ancaman yang jauh” dan fokus yang sempit. Masalah yang lebih luas mengenai bias algoritmik dan dampaknya yang tidak proporsional terhadap komunitas yang terpinggirkan juga perlu dieksplorasi, kata para ahli kepada panel Chatham House pekan lalu. Survei Pew Research Center menemukan adanya “kekhawatiran yang semakin besar” di kalangan masyarakat Amerika mengenai peran AI dalam kehidupan sehari-hari, termasuk keraguan mengenai apakah AI benar-benar dapat meningkatkan kualitas hidup dan kekhawatiran mengenai penggunaannya dalam layanan kesehatan. AI juga dapat menyebarkan informasi yang salah dan menyebabkan hilangnya pekerjaan serta ketidakstabilan politik.

Siapa lagi yang mengambil langkah untuk mengurangi risiko AI?

10 Okt Otoritas Perlindungan Data Inggris mengatakan pihaknya telah mengeluarkan pemberitahuan kepada Snapchat karena mereka mungkin tidak menilai secara tepat risiko privasi yang ditimbulkan oleh chatbot bertenaga AI terhadap pengguna, terutama anak-anak.

Di Amerika Serikat, Presiden Joe Biden pada hari Senin mengeluarkan perintah eksekutif untuk mengatur pengembangan kecerdasan buatan. Uni Eropa sedang bersiap untuk mengadopsi undang-undang tentang kecerdasan buatan, sementara negara-negara G7 telah sepakat untuk memperkenalkan kode etik bagi perusahaan yang menggunakan teknologi tersebut.

Ketika negara-negara mencoba menerapkan aturan mereka sendiri, PBB juga mendorong kerja sama global. Pada tanggal 26 Oktober, Guterres mengumumkan pembentukan badan penasihat untuk bekerja dengan para pemimpin teknologi, pejabat pemerintah, dan peneliti mengenai tata kelola AI internasional.

Berikut lima hal penting yang dapat diambil dari acara tersebut.

1. Kesepakatan tercapai – tetapi ini masih awal

UE dan 28 negara menandatangani Deklarasi Bletchley, sebuah perjanjian yang berkomitmen terhadap pengembangan kecerdasan buatan yang aman dan berpusat pada kemanusiaan. Pernyataan tersebut mencakup janji untuk memastikan desain dan implementasi kecerdasan buatan yang bertanggung jawab. Para penandatangan berkomitmen untuk bekerja sama melalui forum internasional yang ada untuk memperkuat kerja sama. Fokus utamanya adalah pada sistem AI tercanggih, seperti Google Gemini atau GPT-5, yang dikatakan memiliki dampak paling negatif terhadap AI, termasuk kepunahan manusia.

Delapan meja bundar diadakan pada pertemuan puncak tersebut, diketuai oleh pejabat senior pemerintah, peneliti atau akademisi. Salah satu kelompok mencatat bahwa “kami masih dalam tahap awal memahami cara kerja model ini, risiko apa yang ditimbulkannya, dan cara mengembangkan upaya perlindungan yang tepat.”

2. Berbagi adalah Kepedulian

Hal penting yang dapat diambil dari Perjanjian Bletchley adalah bahwa para peserta sepakat untuk bekerja sama membangun “pemahaman bersama, ilmiah dan berbasis bukti” mengenai risiko AI sebagai dasar kebijakan. Bagian dari kerja sama ini adalah meningkatkan transparansi perusahaan swasta yang mengembangkan model AI dan mengembangkan alat pengujian keamanan informasi yang tersedia bagi organisasi.

Setiap negara dapat mengklasifikasikan risiko AI berdasarkan keadaan domestik dan kerangka hukumnya masing-masing – sehingga risiko tersebut tidak terikat pada satu perspektif global.

Suki Dhuphar, direktur bisnis internasional di Tamri, mengatakan: “Dengan berkolaborasi secara aktif dalam penelitian keamanan AI, organisasi dan pemerintah dapat mencapai keseimbangan antara inovasi dan perlindungan terhadap potensi bahaya, yang pada akhirnya membuka potensi penuh AI dan memastikan etika dan penerapan AI yang bertanggung jawab. .”

 

Baca juga : ICT di Inggris

 

3. Grup AI Open Source Tidak Setuju

Tema utama acara ini adalah untuk mengurangi risiko sistem AI canggih yang menghancurkan umat manusia jika jatuh ke tangan pihak yang tidak bertanggung jawab.

Namun kelompok vokal, terutama Yann LeCun, kepala ilmuwan di Meta AI, dan Andrew Ng, salah satu pendiri Google Brain, percaya bahwa fokus pada ancaman eksistensial AI adalah salah arah dan mengarah pada regulasi berlebihan yang merugikan upaya dan inovasi open source. .

Mereka dan sekitar 150 penganut open source lainnya menandatangani pernyataan yang dikeluarkan oleh Mozilla yang menyebut AI terbuka sebagai “penawar, bukan racun.”

Mereka memiliki setidaknya satu pendukung penting: Wakil Perdana Menteri Inggris Oliver Dowden. “Jika kita ingin memastikan bahwa [AI] menyebar secara global, di negara-negara berkembang, saya pikir batasannya sangat tinggi untuk membatasi open source dengan cara apa pun,” katanya kepada Politico.

Amanda Brock, kepala eksekutif OpenUK, memuji pendirian Dowden. “Menyadari nilai open source bagi perekonomian global, perannya dalam demokratisasi teknologi dan membangun kepercayaan melalui transparansi sangat penting bagi pengembangan kecerdasan buatan. Ini adalah satu-satunya cara untuk memastikan bahwa masa depan digital kita adil dan kita dapat belajar darinya. .sejarah terkini kita.”

4. Tiongkok bermain sepak bola

Bagi sebagian orang, daftar tamu Tiongkok sungguh mengejutkan, dan mungkin yang lebih mengejutkan adalah kehadiran mereka. Delegasi dari Kementerian Sains dan Teknologi Tiongkok serta Alibaba dan Tencent bergabung dalam pertemuan puncak tersebut. Tiongkok bahkan menandatangani Deklarasi Bletchley, menerima prinsip-prinsipnya dan berjanji untuk berpartisipasi dalam peristiwa-peristiwa di masa depan.

Dalam pidato penutupnya, Perdana Menteri Sunak menyampaikan kekhawatiran mengenai Tiongkok bahwa “beberapa orang mengatakan kita bahkan tidak seharusnya mengundang Tiongkok. Yang lain tidak pernah mencapai kesepakatan. Keduanya salah.”

 

Baca juga : Mengenal E-book (Buku Digital)

 

“Strategi keamanan AI yang serius harus dimulai dengan keterlibatan semua kekuatan AI utama di dunia. Dan semua orang menandatangani Komunike Bletchley Park.

Peter van Jaarsveld, direktur produksi global di OLIVER, mengatakan dalam komentar email: “Percakapan AS-Tiongkok menarik dan menyoroti bahwa di permukaan ada keinginan untuk koordinasi global yang pada akhirnya akan menguntungkan orang-orang yang menggunakan AI dalam pekerjaan mereka. hidup.Hari ini. Namun keinginan untuk bekerja sama yang diumumkan tidak menjamin kerja sama atau hasil yang nyata. KTT ini adalah langkah tentatif pertama menuju pendekatan global terhadap AI, namun apakah pendekatan ini akan membuahkan hasil masih harus dilihat.

5. Lebih banyak KTT Keamanan AI yang akan datang Acara

Bletchley Park adalah KTT Keamanan AI global yang pertama. Namun masih banyak yang harus dilakukan – para penandatangan Deklarasi Bletchley setuju untuk menyelenggarakan lebih banyak acara serupa di masa depan.

KTT keamanan AI akan diadakan di Korea Selatan dan Perancis pada tahun 2024. Dalam pidato penutupnya, Sunak mengatakan: “Meskipun ini hanya permulaan dari perdebatan, saya yakin bahwa pencapaian KTT ini akan memberikan keuntungan bagi AI.” kemanusiaan. “Karena ini menunjukkan bahwa kita memiliki kemauan politik dan kemampuan untuk mengelola teknologi ini dan memastikan manfaat jangka panjangnya.”