Trump dan Bos AI Sepakati Empat Lapis Pengawasan

REPUBLIKA.CO.ID, JAKARTA — Presiden Amerika Serikat Donald Trump bersama para pemimpin sejumlah perusahaan kecerdasan buatan terbesar dunia menyepakati empat lapis pengawasan terhadap pengembangan AI canggih, termasuk audit oleh evaluator eksternal independen. Kesepakatan yang diumumkan seusai pertemuan di Gedung Putih pada Selasa (29/9/2026) itu masih bersifat sukarela, tetapi dokumennya membuka kemungkinan mekanisme tersebut kelak dituangkan ke dalam undang-undang atau regulasi.

Kesepakatan tersebut dituangkan dalam White House Accord on Super Intelligence dengan subjudul Joint Commitment on Frontier Responsibilities. Trump menyebut komitmen tersebut mengikat secara moral, meskipun perusahaan yang menandatanganinya untuk saat ini tidak menghadapi kewajiban hukum baru apabila melanggar kesepakatan.

Reuters melaporkan para eksekutif menyepakati standar sukarela untuk pengembangan AI dan bersedia bekerja dengan auditor independen guna memeriksa apakah sistem bekerja sebagaimana dimaksud oleh pengembangnya. Mereka juga berkomitmen memastikan sistem AI tidak meretas atau mengakses sistem teknis dengan cara yang tidak diinginkan.

Kesepakatan itu muncul ketika tekanan terhadap perusahaan teknologi dan pemerintah AS meningkat seiring kemampuan AI berkembang semakin jauh. Kekhawatiran tidak lagi hanya berkaitan dengan informasi keliru yang dihasilkan chatbot, tetapi juga kemampuan agen AI berinteraksi dengan perangkat lunak dan menjalankan tugas secara lebih mandiri.

Empat Lapis Pengawasan

Lapisan pertama dalam accord meminta setiap perusahaan memiliki kontrol internal yang kuat untuk memantau kemampuan serta keselarasan model AI selama proses pelatihan maupun ketika teknologi digunakan. Area yang mendapat perhatian khusus mencakup keamanan siber, biosekuriti, ancaman kimia, serta risiko sistem mengakses infrastruktur teknologi tanpa tujuan yang dikehendaki.

Lapisan kedua menempatkan tanggung jawab pada tim internal perusahaan. Tim tersebut harus memastikan seluruh kontrol, pemantauan dan mekanisme deteksi berfungsi sebagaimana dirancang serta memastikan persoalan yang ditemukan segera diperbaiki.

Lapisan ketiga menjadi salah satu unsur terpenting dalam accord karena perusahaan tidak hanya diminta menilai dirinya sendiri. Mereka harus melibatkan auditor atau evaluator eksternal independen untuk menguji apakah mekanisme kontrol dan pemantauan benar-benar bekerja sebagaimana mestinya.

Lapisan keempat membawa pengawasan ke tingkat dewan direksi. Perusahaan diminta menunjuk komite independen pada dewan yang menerima laporan dari tim pengawasan, auditor dan evaluator serta memastikan temuan yang muncul ditindaklanjuti.

Dengan skema tersebut, tanggung jawab keselamatan secara teoritis tidak berhenti pada teknisi atau tim pengembang model. Persoalan yang ditemukan harus bergerak melalui mekanisme pengawasan internal, pemeriksaan dari pihak luar, hingga pengawasan di tingkat tertinggi perusahaan.

CEO Meta Mark Zuckerberg mengatakan perusahaan-perusahaan tersebut sepakat membangun kontrol internal yang kuat bagi sistem AI mereka. Reuters melaporkan Trump meminta Zuckerberg berbicara kepada wartawan seusai pertemuan bersama para eksekutif teknologi di Gedung Putih.

Masih Sukarela

Meski strukturnya berlapis, accord tersebut belum setara dengan regulasi federal. Ketua DPR AS Mike Johnson menggambarkannya sebagai komitmen bersama dan pernyataan prinsip yang secara sukarela mengikat perusahaan pada kontrol internal.

Trump juga tidak menyebut kesepakatan itu sebagai kewajiban hukum. Ketika ditanya mengenai kekuatan accord, Trump mengatakan ia menganggap dokumen itu mengikat secara moral.

Posisi tersebut menjadi penting karena pemerintah AS menghadapi pilihan besar dalam mengatur industri AI. Washington dapat membangun peraturan rinci yang memaksa perusahaan memenuhi persyaratan tertentu, atau memberi ruang lebih besar kepada industri untuk mengembangkan standar keselamatan dan mekanisme pemeriksaannya sendiri.

Trump sejauh ini menekankan pendekatan kedua. Ia mengatakan melihat adanya pengawasan mandiri yang besar di kalangan perusahaan dan menilai pelaku industri memahami kebutuhan untuk mengawasi teknologi mereka sendiri.

Meski demikian, pintu menuju regulasi formal tidak sepenuhnya ditutup. Teks accord menyebut, seiring waktu, langkah-langkah pengawasan yang disepakati tersebut mungkin masuk akal untuk dikodifikasi ke dalam undang-undang atau regulasi.

Formulasi itu membuat kesepakatan memiliki dua wajah. Untuk sekarang, perusahaan melaksanakannya atas dasar komitmen sukarela, tetapi empat lapis pengawasan tersebut dapat berkembang menjadi acuan bagi penyusunan aturan yang lebih mengikat pada masa depan.