Penasihat Sains dan Etika Uni Eropa Minta Aturan AI Tidak Dilemahkan dan Uji Model Dilakukan Secara Independen
Dua kelompok penasihat Komisi Eropa merilis pernyataan bersama: aturan AI harus tetap kuat, pengawasan manusia dijaga, dan UE wajib membangun kapasitas uji model AI sendiri.
Artikel ini disusun dengan bantuan AI berdasarkan sumber resmi yang tercantum di bawah, dan diperiksa secara otomatis sebelum terbit.

Dua kelompok penasihat Komisi Eropa, yaitu Group of Chief Scientific Advisors (GCSA) dan European Group on Ethics in Science and New Technologies (EGE), menerbitkan pernyataan bersama tentang fase berikutnya dari kecerdasan buatan (AI) pada 16 November 2026. Menurut rilis Directorate-General for Research and Innovation Komisi Eropa, kedua kelompok menilai pagar pengaman tradisional tidak lagi memadai untuk AI yang makin kuat, otonom, dan menyatu dengan kehidupan sehari-hari. Mereka meminta Uni Eropa (UE) mempertahankan regulasi yang kuat, melindungi pengawasan manusia yang bermakna, serta membangun kemampuan sendiri untuk mengevaluasi model AI.
Isi Pernyataan Bersama
Pernyataan berjudul The next phase of artificial intelligence – Governing for safety, security and human agency ini menyoroti bahwa AI menghadirkan tantangan khas bagi kebijakan publik. Para penasihat mengakui Eropa sudah memiliki kerangka legislasi yang ambisius, tetapi menekankan bahwa kerangka tersebut harus benar-benar diterapkan dan ditegakkan.
Mereka juga memberi peringatan: lemahnya komitmen politik atau kurangnya kapasitas kelembagaan dapat menggerus kewajiban yang sudah ada, sementara tekanan dari luar untuk menunda atau melunakkan aturan bisa makin melemahkan perlindungan.
Empat rekomendasi utama yang disampaikan:
- Menjaga aturan tetap kuat, dengan keselamatan, keamanan, dan otonomi manusia sebagai prasyarat pengembangan AI.
- Menyesuaikan laju pengembangan dan penerapan AI dengan tingkat potensi bahayanya.
- Membangun kapasitas evaluasi independen, sehingga UE mampu menilai model sendiri dan tidak menyerahkan tugas itu kepada pengembang komersial.
- Membangun ekosistem keselamatan, keamanan, dan pembelajaran berkelanjutan, dengan bukti dan metode evaluasi yang berkembang seiring kemampuan AI.
Komisi Eropa mencatat bahwa kedua kelompok ini sebelumnya pernah memberi masukan terkait AI, misalnya soal AI dalam sains dan manajemen krisis, namun pernyataan bersama dari keduanya disebut sebagai langkah yang tidak biasa. GCSA sendiri terdiri atas tujuh pakar independen yang diangkat dalam kapasitas pribadi.
Mengapa Ini Penting
Pesan inti pernyataan ini adalah bahwa Eropa tidak perlu memilih antara inovasi dan keselamatan. Manfaat AI tetap bisa dinikmati, asalkan peningkatan kemampuan teknologi diimbangi dengan bukti yang lebih kuat, pengawasan yang efektif, dan kapasitas untuk mengidentifikasi serta mengelola risiko. Para penasihat menegaskan bahwa regulasi harus berkembang bersama teknologi, bukan tertinggal di belakangnya.
Pernyataan ini merujuk pada sejumlah instrumen hukum UE yang relevan, yaitu:
- EU AI Act, Regulation (EU) 2024/1689;
- General-Purpose AI Code of Practice tahun 2025;
- usulan Cloud and AI Development Act, COM(2026) 502 final.
Rekomendasi soal evaluasi independen patut dicermati. Gagasannya sederhana namun berdampak besar: penilaian keamanan sebuah model sebaiknya tidak hanya bergantung pada klaim pihak yang membuat dan menjualnya.
Implikasi bagi Organisasi di Indonesia
Regulasi UE kerap menjadi salah satu rujukan dalam diskusi tata kelola AI di berbagai negara, termasuk bagi pembuat kebijakan di Indonesia. Arah yang ditunjukkan pernyataan ini memberi gambaran tentang tuntutan yang mungkin semakin umum ke depan:
- Pengembang dan penyedia AI, terutama yang melayani pasar atau rantai pasok Eropa, perlu bersiap menghadapi permintaan bukti pengujian independen, dokumentasi pengawasan manusia, dan pengendalian berbasis tingkat risiko.
- Instansi pemerintah yang membeli atau memakai sistem AI perlu mulai memikirkan siapa yang akan menguji sistem tersebut, alih-alih hanya mengandalkan klaim vendor.
- Pemilik bisnis perlu menyadari bahwa kecepatan adopsi AI sebaiknya disesuaikan dengan potensi bahaya penggunaannya, bukan seragam untuk semua kasus.
Langkah Praktis yang Bisa Dimulai
Beberapa langkah yang dapat dipertimbangkan organisasi sejak sekarang:
- Petakan penggunaan AI berdasarkan risiko. Bedakan aplikasi berisiko rendah dari yang menyentuh keselamatan, layanan publik, atau hak individu.
- Tetapkan titik pengawasan manusia. Pastikan ada pihak yang berwenang meninjau, mengoreksi, atau menghentikan keputusan sistem AI.
- Bangun kemampuan evaluasi internal atau gunakan pihak ketiga. Jangan hanya menerima hasil uji dari pengembang model.
- Masukkan persyaratan pengujian dalam pengadaan. Kontrak dengan vendor dapat mewajibkan akses untuk evaluasi dan dokumentasi yang memadai.
- Perlakukan evaluasi sebagai proses berkelanjutan. Sejalan dengan rekomendasi para penasihat UE, metode pengujian perlu diperbarui seiring berkembangnya kemampuan AI.
Pernyataan GCSA dan EGE ini menegaskan satu hal: semakin besar kemampuan AI, semakin besar pula kebutuhan akan pengawasan yang independen dan aturan yang mampu mengikuti perkembangan teknologi.
Sumber & referensi
Artikel ini merupakan ringkasan dan interpretasi tim Oemah Solution atas sumber-sumber di bawah. Untuk detail dan konteks lengkap, rujuk sumber aslinya.


