Kontrak Anthropic dan Pemerintah AS Terancam Batal, Ini Gara-garanya

Jakarta, CNN Indonesia --

Pemerintah Amerika Serikat mengancam akan memutus kontrak militer dengan Anthropic jika perusahaan itu tak membuka akses teknologi AI-nya untuk penggunaan militer tanpa batasan.

Anthropic, pengembang chatbot Claude, disebut menjadi satu-satunya perusahaan besar di sektor AI yang belum mengintegrasikan teknologinya ke jaringan internal militer AS.

CEO Dario Amodei telah berulang kali menegaskan keprihatinannya tentang penggunaan AI yang tidak terkendali oleh pemerintah, termasuk bahaya yang ditimbulkan oleh drone bersenjata otonom sepenuhnya dan pengawasan massal yang didukung AI yang dapat digunakan untuk melacak musuh.

Laporan EuroNews pada Juli lalu menyebutkan bahwa Anthropic memenangkan kontrak senilai US$200 (sekitar Rp3,36 triliun) dari Departemen Pertahanan AS untuk mengembangkan prototipe kemampuan AI terdepan yang mendukung keamanan nasional. Pada 2024, perusahaan ini bermitra dengan Palantir Technologies untuk mengintegrasikan Claude ke dalam perangkat lunak intelijen AS.

Pada Selasa, Menteri Pertahanan Pete Hegseth dilaporkan akan membatalkan kontrak senilai US$200 juta (sekitar Rp3,36 triliun) dan menunjuk perusahaan tersebut sebagai "risiko rantai pasokan" jika Anthropic tidak mematuhi ketentuan.

Jika Anthropic ditetapkan sebagai risiko rantai pasokan berdasarkan undang-undang pengadaan AS, pemerintah dapat mengesampingkan perusahaan tersebut dari penawaran kontrak, menghapus produknya dari pertimbangan, dan menginstruksikan kontraktor utama untuk tidak menggunakan perusahaan tersebut sebagai pemasok.

Hegseth juga mengancam akan menerapkan Undang-Undang Produksi Pertahanan terhadap perusahaan tersebut.Undang-undang ini memberikan wewenang luas kepada Presiden AS untuk mengarahkan perusahaan swasta untuk memprioritaskan kebutuhan keamanan nasional, termasuk akses terhadap teknologi mereka.

Belum ada tanggapan resmi dari Anthropic dan Departemen Pertahanan AS terkait laporan Euronews tersebut.

Anthropic tarik janji keamanan inti

Sejak pendirinya meninggalkan OpenAI untuk mendirikan startup pada tahun 2021, Anthropic telah memposisikan dirinya sebagai perusahaan AI terkemuka yang lebih bertanggung jawab dan berorientasi pada keamanan.

Namun, pada Selasa (24/2), Anthropic mengumumkan dalam wawancara dengan majalah Time bahwa mereka akan menghentikan janji mereka untuk tidak merilis sistem AI kecuali dapat menjamin langkah-langkah keamanan yang memadai.

Alih-alih, perusahaan meluncurkan versi baru dari kebijakan skalabilitas bertanggung jawabnya, yang menetapkan kerangka kerja untuk mitigasi risiko AI yang bersifat katastropik.

Jared Kaplan, Kepala Ilmuwan Anthropic, mengatakan kepada media tersebut bahwa mencegah perusahaan melatih model baru sementara pesaing berlomba-lomba tanpa pengamanan tidak akan membantu mereka untuk tetap bersaing dalam perlombaan AI.

"Jika seorang pengembang AI menghentikan pengembangan untuk menerapkan langkah-langkah keamanan sementara pengembang lain terus melatih dan menerapkan sistem AI tanpa mitigasi yang kuat, hal itu dapat mengakibatkan dunia yang kurang aman," bunyi kebijakan baru Anthropic.

"Pengembang dengan perlindungan terlemah akan menentukan laju perkembangan, dan pengembang yang bertanggung jawab akan kehilangan kemampuan untuk melakukan riset keamanan dan mendorong manfaat publik," lanjutnya.

Kebijakan ini membedakan antara aspirasi Anthropic untuk menetapkan standar keselamatan bagi industri dan tujuan perusahaan itu sendiri, di mana tujuan perusahaan tetap memprioritaskan keselamatan.

(wpj/dmi)

[Gambas:Video CNN]