Didirikan pada tahun 2021, perusahaan AmerikaKecerdasan buatan antropik mengkhususkan diri dalam pengembangan model bahasa besar dan keamanan AIsedemikian rupa sehingga melahirkan Claude Mythos, sebuah proyek yang mungkin melebihi ekspektasi yang diberikan padanya… Memang benar, model AI-nya berhasil melarikan diri dari ruang eksperimental yang aman – kotak pasir – tempat penciptanya mengurungnya! Hal ini dilaporkan oleh Anthropic pada 7 April, beberapa hari setelah bocoran internal mengungkap keberadaan proyek Mythos.
Selasa ini, Anthropic kemudian meresmikan peluncurannya Proyek Glasswingsebuah inisiatif keamanan siber yang didukung oleh model Pratinjau Claude Mythos baru yang kuat. Dan ini perlu untuk meyakinkan para spesialis tentang model yang mengesankan ini. Selain melarikan diri dari kotak pasirnya, versi Mythos mengambil inisiatif yang belum pernah disarankan oleh siapa pun: ia menerbitkan rincian teknis pelariannya di beberapa situs web yang dapat diakses publik!
Mitos: model yang memunculkan planet AI
Anthropic juga mengatakan akan membuat “Claude Mythos Pratinjau” tersedia untuk konsorsium lebih dari 40 perusahaan teknologi, termasuk Apple, Amazon dan Microsoft, yang akan menggunakannya, kita baca di Tantanganuntuk mendeteksi dan memperbaiki kerentanan keamanan dalam perangkat lunak penting.
Sebaliknya, Anthropic mengumumkan belum berencana mendistribusikan teknologi barunya secara lebih luas. “Tujuannya adalah untuk meningkatkan kesadaran masyarakat dan memberikan aktor yang tepat langkah awal dalam proses mengamankan infrastruktur dan kode open source dan swasta.kata Jared Kaplan, direktur ilmiah Anthropic.
