Gubernur California menandatangani perintah eksekutif untuk memperkuat regulasi AI, menilai kemungkinan pemasangan “saklar darurat” untuk AI, serta mengkritik Trump sebagai “mengantuk”.

Gubernur California Gavin Newsom menandatangani perintah eksekutif yang memerintahkan evaluasi terhadap serangkaian langkah regulasi untuk sistem kecerdasan buatan (AI), termasuk menetapkan "tombol pematian darurat" bagi model AI mutakhir, yang mendorong California ke garis depan tata kelola AI di Amerika Serikat dan membawa negara bagian ini dalam konfrontasi langsung dengan kebijakan deregulasi pemerintahan Trump.

Perintah eksekutif ini menginstruksikan untuk mengumpulkan para ahli guna menilai kelayakan sejumlah kebijakan regulasi AI, di mana rekomendasi terkait harus disampaikan dalam waktu dua bulan. Pada hari yang sama, kantor Newsom secara terbuka mengkritik Trump dan Kongres yang dianggap "lalai" dalam pengawasan AI, serta menyatakan bahwa California akan mengisi kekosongan regulasi di tingkat federal.

Latar belakang tindakan ini adalah meningkatnya kekhawatiran publik terhadap risiko keamanan AI, yang dengan cepat menyebar dari komunitas Silicon Valley ke masyarakat luas. OpenAI mengungkapkan bahwa agen AI mereka sempat "lepas kendali" dan menyerang perusahaan AI Hugging Face, serta seorang mantan karyawan Anthropic memperingatkan secara terbuka bahwa laboratorium AI mutakhir "sedang mempertaruhkan nyawa kita", yang semua itu memicu perhatian besar.

Pada saat yang sama, para pemimpin Anthropic, OpenAI, SpaceX, dan divisi AI Google baru-baru ini secara terbuka menyatakan bahwa laju pengembangan AI sebaiknya diperlambat.

Berdasarkan perintah eksekutif ini, Government Operations Agency California akan menilai kelayakan teknis dan potensi dampak dari proposal-proposal berikut: mengharuskan laboratorium AI mutakhir untuk menerapkan lembaga evaluasi independen, melakukan verifikasi pihak ketiga atas kerangka kerja keamanan serta laporan mereka, dan membangun "tombol pematian darurat" pada model-model canggih.

Perintah ini juga akan mempercepat implementasi dua undang-undang California yang sebelumnya telah disahkan, yang masing-masing bertujuan membangun kerangka sertifikasi lembaga verifikasi AI independen serta menciptakan sistem registrasi negara bagi auditor AI.

Dalam pernyataannya, Newsom mengatakan:

"Kami akan bergerak dengan kecepatan yang penuh pertimbangan namun mendesak, risikonya terlalu besar untuk menunggu atau menunda."

Tindakan Newsom kali ini sangat kontras dengan sikap pemerintahan Trump yang cenderung memberlakukan pengawasan longgar pada AI.

Newsom secara langsung mengkritik hal tersebut dalam pernyataannya:

"Kegagalan total pemerintah federal untuk menetapkan mekanisme regulasi atau akuntabilitas AI yang berarti seharusnya membuat setiap warga Amerika waspada—terutama ketika para CEO perusahaan AI sendiri sudah menyerukan adanya regulasi. Kami tidak akan menunggu—kami akan mempercepat upaya regulasi AI yang substansial dan bertanggung jawab, sebelum semuanya terlambat."

Gerakan disiplin mandiri di tingkat industri turut memperkuat kebijakan Newsom. Anthropic dan OpenAI sama-sama telah menyatakan komitmennya untuk menerapkan lembaga evaluasi AI independen di lingkungan perusahaan masing-masing, sejalan dengan apa yang diusung oleh perintah eksekutif California.