Debat Panas Regulasi AI Frontier: Dario Amodei Vs Lawyer Teknologi
CEO Anthropic Dario Amodei kini berada di tengah pusaran perdebatan tajam soal masa depan pengaturan kecerdasan buatan. Mantan penasihat AI gedung putih, investor venture, dan peneliti senior Meta semuanya angkat bicara. topiknya sama: siapa yang seharusnya memegang kendali atas AI paling kuat di dunia.
Awal Mula: Klaim di Podcast All-In
Semuanya bermula dari episode Podcast All-In. Investor venture capital Gavin Baker mengatakan bahwa Dario Amodei pernah bercerita kepada orang-orang di sekitarnya bahwa Anthropic suatu hari nanti bisa menjadi satu-satunya perusahaan swasta yang tersisa di dunia, tanpa ada di sampingnya kecuali pemerintah.
Anthropic merespons cepat. Penelitinya, Sholto Douglas, menyebut klaim itu sangat tidak akurat. Dalam pandangannya, konsentrasi kekuatan ekonomi adalah hal yang paling ditakuti oleh Anthropic.
Baker tidak mundur. Ia menjabarkan inti perselisihan ini dalam thread panjang di X. Jika AI memang berpotensi berbahaya, ada dua posisi dasar. Posisi pertama: AI terlalu berbahaya untuk disebarluaskan, maka kumpulkan di beberapa perusahaan dan politisi. Posisi kedua: AI terlalu berbahaya jika dikonsentrasikan, maka sebarkan sejauh mungkin. Baker menyebut posisi ini pilihan palsu karena sangat bergantung pada kepercayaan terhadap satu pihak yang memiliki kekuatan absolut.
Yann LeCun: AI Terbuka Kunci Demokrasi Digital
Mantan kepala peneliti Meta, Yann LeCun, mengambil posisi berbeda. Dalam thread-nya, ia membandingkan AI dengan mesin cetak dan internet. Keduanya meningkatkan kecerdasan manusia dengan memperbaiki akses terhadap pengetahuan. Menurut LeCun, masyarakat membutuhkan berbagai sistem AI dengan nilai berbeda-beda, sama seperti press yang beragam.
Satu AI baik melawan AI jahat. Satu AI terpusat melawan satu AI terdesentralisasi. Pandangan LeCun tegas: konsentrasi adalah masalah, bukan solusinya.
Amodei: Regulasi Bisa Jugat Membatasi Korporasi
Perdebatan akhirnya menarik Amodei sendiri. Dalam jawabannya di X, postingannya yang keempat di tahun itu, Amodei menyebut kerangka Baker sebagai pilihan palsu. Di beberapa bagian Silicon Valley, asumsinya regulasi secara otomatis berarti regulatory capture, artinya industri menulis aturannya sendiri demi kepentingannya sendiri. Amodei mengatakan pandangan itu terlalu sederhana. Regulasi juga bisa membatasi kekuasaan korporasi dan membantu warga biasa.
Sebagai bukti, Amodei menunjukkan undang-undang California SB53 yang mengecualikan perusahaan di bawah ambang batas pendapatan atau biaya pelatihan dari persyaratannya. Ini menunjukkan Anthropic sengaja merancang proposalnya untuk memperlambat laboratorium terdepan dan mengutamakan perusahaan kecil.
Model terbuka, kata Amodei, hanya sebagian menyelesaikan masalah. Bobot yang tersedia secara bebas memang bagus, tapi pada akhirnya konsentrasi berpindah ke siapa pun yang memiliki chip paling kuat.
David Sacks: Tudingan Balasan Pedas
Investor David Sacks, yang hingga belum lama menjadi penasihat AI gedung putih, membalas dengan nada lebih tajam. Dalam balasan sembilan bagian, Sacks menunjukkan satu hal: Amodei tidak pernah menyangkal langsung laporan Baker soal klaim satu-satunya perusahaan tersisa. Menurut Sacks, ini bukan kebetulan.
Sacks juga mengkritik argumen Amodei soal gelembung regulasi sebagai straw man. Hampir tidak ada orang yang benar-benar berpikir setiap regulasi adalah regulatory capture, kata Sacks. Ia merujuk pada pandangan ekonom pemenang Nobel George Stigler: regulasi sering memang ditulis oleh industri yang diatur, tapi bukan berarti semua regulasi bersifat seperti itu.
Sacks melanjutkan: Anthropic paham mekanisme ini dengan sempurna. Perusahaan ini telah merekrut beberapa pejabat AI dari pemerintahan Biden dan membangun aparatur pemerintahan yang besar. Sacks memprotes proposal Amodei untuk lembaga federal yang meninjau model-model teratas sebelum dirilis, menyebutnya kantor persetujuan untuk AI. Proses itu akan menciptakan antrian panjang dan memperlambat Amerika Serikat dalam perlombaan melawan Tiongkok.
Apa yang Tersirat dari Perdebatan Ini
Perdebatan ini bukan sekadar pertengkaran di media sosial. Di baliknya ada pertanyaan fundamental tentang arsitektur kekuasaan AI global.
Pihak yang mendukung AI terbuka percaya desentralisasi adalah satu-satunya cara mencegah penyalahgunaan. Jika satu atau dua perusahaan mengontrol segalanya, tidak ada yang bisa menantang keputusan mereka.
Pihak yang mendukung konsentrasi beralasan AI frontier terlalu berbahaya untuk ditangani siapa pun tanpa akuntabilitas. Tanpa aturan main jelas, kebebasan semu justru berbahaya.
Amodei mengambil posisi tengah: regulasi bukan selalu jahat, asalkan dirancang untuk melindungi yang kecil, bukan yang besar.
Perdebatan ini kemungkinan akan terus bergulir seiring AI frontier menjadi semakin kuat. Terutama karena tidak ada konsensus global tentang bagaimana seharusnya AI diatur.
Ringkasan Posisi
| Tokoh | Posisi Utama |
|---|---|
| Dario Amodei (Anthropic) | Regulasi bisa membatasi korporasi, bukan hanya melindungi industri besar. Model terbuka saja tidak cukup. |
| Gavin Baker (Investor) | Bertaruh pada satu entitas yang dipercaya adalah preseden berbahaya. Konsentrasi = risiko. |
| Yann LeCun (Meta) | AI harus terbuka dan terdistribusi. Konsentrasi adalah masalah, bukan solusi. |
| David Sacks (Mantan Penasihat WH) | Anthropic mencari regulasi untuk melindungi diri sendiri. Proposal Amodei memperlambat AS vs Tiongkok. |
Perdebatan ini mungkin tidak akan menemukan titik temu dalam waktu dekat. Tapi satu hal yang jelas: keputusan yang diambil sekarang tentang cara AI diatur akan membentuk lanskap kekuatan teknologi global untuk dekade mendatang.
