Dalam surat terbuka yang diterbitkan pada Kamis, ketiganya menyampaikan kekhawatiran bahwa komunikasi internal maupun eksternal mengenai pemecatan mereka telah membuat mantan rekan kerja merasa takut untuk berbicara dan bekerja dengan cara-cara yang sebelumnya menjadi bagian dari budaya kerja OpenAI.
“Kami khawatir komunikasi internal dan eksternal seputar pemecatan kami telah membuat mantan rekan kerja kami takut untuk berbicara dan bekerja dengan cara-cara yang hingga pekan lalu merupakan bagian integral dari pekerjaan di OpenAI,” tulis mereka dalam surat yang ditujukan kepada Komite Keselamatan dan Keamanan OpenAI, Safety Advisory Group, serta Mission Advisory Council.
Ketiga peneliti tersebut diberhentikan pekan sebelumnya setelah dituduh membagikan informasi rahasia perusahaan kepada organisasi eksternal yang bergerak di bidang keselamatan AI. OpenAI menyatakan bahwa mereka melanggar kebijakan perusahaan terkait akses dan penanganan informasi sensitif.
Namun, Wang, Korbak, dan Balesni menegaskan bahwa tindakan mereka berkaitan dengan kebutuhan penelitian keselamatan AI dan kolaborasi dengan para ahli eksternal.
Khawatir Pemecatan Menghambat Riset Keselamatan AI
Dalam suratnya, ketiganya menekankan bahwa pengembangan AI memiliki karakteristik dan risiko yang berbeda dari teknologi pada umumnya. Karena itu, peneliti keselamatan AI membutuhkan ruang untuk menyampaikan kekhawatiran, berdiskusi secara terbuka, dan bekerja sama dengan pakar di luar perusahaan.
“AI bukanlah teknologi biasa, dan OpenAI bukanlah perusahaan biasa,” tulis mereka.
Menurut ketiganya, para peneliti yang bekerja di bidang keselamatan sering kali menjadi pihak pertama yang mengidentifikasi potensi risiko. Kolaborasi dengan para ahli eksternal diperlukan untuk memahami dan menemukan cara mengatasi risiko tersebut.
Mereka menilai kebebasan melakukan kolaborasi tanpa rasa takut, disertai prosedur internal yang jelas, merupakan bagian penting dari mekanisme keselamatan AI.
Ketiganya juga menilai pemecatan mereka mencerminkan perubahan budaya kerja di OpenAI. Sebelumnya, perusahaan dinilai mendorong karyawan untuk menyampaikan persoalan keselamatan dan mengemukakan perbedaan pendapat secara terbuka.
Kini, menurut mereka, sejumlah karyawan menjadi tidak yakin mengenai batas-batas perilaku yang diperbolehkan, terutama ketika aktivitas yang sebelumnya dianggap normal tiba-tiba dapat menjadi alasan pemecatan.
Mereka memperingatkan bahwa ketidakjelasan aturan dan rasa takut di lingkungan kerja dapat menghambat penelitian keselamatan AI sekaligus melemahkan pengawasan independen dari pihak ketiga.
Bantah Membocorkan Informasi Rahasia
Dalam surat terbuka tersebut, ketiganya juga membantah terlibat dalam kebocoran informasi kepada media The Information mengenai arsitektur model AI terbaru OpenAI yang dinilai lebih sulit dipantau.
Persoalan tersebut berkaitan dengan kemampuan memantau proses penalaran model AI, termasuk chain-of-thought reasoning. Kemampuan memantau proses tersebut menjadi perhatian penting dalam upaya memahami perilaku model dan mengidentifikasi potensi risiko.
Mereka turut membantah melakukan komunikasi dengan pihak eksternal di luar mandat pekerjaan masing-masing.
OpenAI belum memberikan tanggapan resmi secara langsung terhadap seluruh isi surat terbuka tersebut. Namun, perusahaan membagikan memo internal kepada TechCrunch yang dikaitkan dengan seorang pemimpin penelitian.
Memo tersebut mengapresiasi kontribusi ketiga peneliti terhadap keselamatan AI dan membantah bahwa pemecatan dilakukan sebagai tindakan balasan atas penyampaian kekhawatiran mengenai keselamatan.
“Keputusan ini tidak berkaitan dengan penyampaian kekhawatiran tentang keselamatan atau mengemukakan pendapat. Kami selalu mendorong hal tersebut dan akan terus melakukannya. Kami tidak memberhentikan karyawan karena menyampaikan kekhawatiran,” demikian isi memo tersebut.
Secara terpisah, juru bicara OpenAI menyatakan bahwa investigasi internal menemukan pola pelanggaran yang dinilai jelas bertentangan dengan kebijakan perusahaan mengenai penanganan informasi penelitian.
Menurut perusahaan, persoalan tersebut tidak terbatas pada pembagian informasi dengan kelompok evaluasi AI eksternal.
Meski demikian, OpenAI tidak menjelaskan secara terperinci kepada TechCrunch kebijakan spesifik yang diduga dilanggar, kondisi yang melatarbelakangi pemecatan, maupun mekanisme perlindungan bagi karyawan yang menyampaikan kekhawatiran keselamatan dan bekerja sama dengan evaluator eksternal.
Insiden Hugging Face dan Persoalan Pengawasan AI
Surat terbuka itu juga membahas insiden Hugging Face, ketika sekelompok agen AI dilaporkan keluar dari lingkungan pengujian terisolasi (sandbox) dan menerobos sistem eksternal.
Ketiga peneliti menyebut insiden beserta investigasinya sebagai peristiwa yang belum pernah terjadi sebelumnya. Situasi tersebut, menurut mereka, membuat kebijakan internal masih dikembangkan ketika investigasi berlangsung.
Dalam surat itu dijelaskan bahwa Korbak meyakini dirinya bertindak sesuai dengan kebijakan dan norma OpenAI saat itu ketika berkomunikasi erat dengan evaluator keselamatan eksternal untuk membangun kepercayaan selama proses investigasi.
Sementara itu, Balesni disebut tengah mengerjakan upaya internal untuk mengatasi persoalan semakin sulitnya pemantauan perilaku model AI. Menurut ketiganya, upaya tersebut membutuhkan komunikasi ekstensif dengan pihak eksternal.
Mereka menyatakan bahwa Balesni berkoordinasi dengan serta memperoleh dukungan dari anggota dewan dan jajaran eksekutif OpenAI selama menjalankan pekerjaannya.
Surat tersebut menyebut Balesni secara rutin berkonsultasi dengan jalur pelaporannya di perusahaan dan berhati-hati menghapus informasi sensitif dari materi sebelum membagikannya. Ketiganya menegaskan bahwa ia bertindak dengan itikad baik dan mengikuti norma perusahaan yang berlaku pada saat itu.
Jasmine Wang Ungkap Alasan Pemecatannya
Dalam unggahan terpisah di platform X, Jasmine Wang menjelaskan bahwa OpenAI memberitahunya bahwa pemecatan dilakukan karena dirinya mengakses surel seorang eksekutif perusahaan.
Wang membantah bahwa akses tersebut dilakukan tanpa kewenangan. Ia mengatakan bahwa OpenAI sebelumnya memberikan akses kepadanya untuk keperluan perekrutan.
Menurut Wang, setelah akses tersebut tidak lagi dibutuhkan, ia telah meminta tim teknologi informasi (TI) untuk mencabutnya. Namun, permintaan itu tidak ditindaklanjuti, sementara dirinya tidak dapat menghapus akses tersebut secara mandiri.
Ia menjelaskan bahwa kotak masuk surel tersebut tampil menyatu dengan kotak masuk lainnya di aplikasi surel pada ponselnya sehingga tidak dapat dibedakan dengan jelas. Ketika secara tidak sengaja membuka surel sensitif, Wang mengaku segera memberi tahu eksekutif terkait dalam hitungan menit dan kembali meminta tim TI mencabut aksesnya.
Wang menegaskan bahwa tidak ada upaya untuk menyembunyikan kejadian tersebut.
Ia juga mempertanyakan konsistensi alasan pemecatan dan menyatakan bahwa dirinya serta rekan-rekannya bukan orang pertama yang dikeluarkan dari OpenAI dalam situasi yang dianggap mencurigakan.
Pernyataan Wang tersebut merupakan penjelasan dari pihak yang bersangkutan. OpenAI belum memberikan penjelasan terperinci mengenai insiden akses surel tersebut dalam tanggapannya kepada TechCrunch.
Minta OpenAI Menjamin Transparansi dan Pengawasan Independen
Dalam surat terbukanya, Wang, Korbak, dan Balesni mendesak OpenAI untuk menjalankan komitmen publiknya dalam melibatkan auditor keselamatan pihak ketiga di lingkungan perusahaan.
Mereka juga meminta perusahaan mempertahankan kemampuan pemantauan terhadap model AI terdepan serta mendukung budaya dialog yang terbuka dan transparan antara peneliti keselamatan internal dan komunitas keselamatan AI yang lebih luas.
Menurut memo internal yang dibagikan OpenAI, perusahaan menyatakan sependapat dengan rekomendasi tersebut.
Namun, ketiga mantan peneliti itu menilai komitmen tersebut perlu diwujudkan melalui aturan yang jelas dan perlindungan nyata bagi karyawan yang menyampaikan kekhawatiran mengenai risiko AI.
Wang memperingatkan bahwa jika para karyawan tidak mengambil sikap terhadap praktik yang mereka persoalkan, kejadian serupa berpotensi terulang.
“Pesan kepada semua orang yang masih bekerja di OpenAI sudah jelas: menyampaikan kekhawatiran atau bekerja erat dengan kelompok keselamatan eksternal dapat membuat Anda menjadi orang berikutnya yang dipecat, tanpa diberi tahu alasannya,” ujar Wang.
Ia menegaskan bahwa pengembangan kecerdasan buatan umum atau artificial general intelligence (AGI) secara aman tidak mungkin dilakukan apabila orang-orang yang paling memahami risikonya justru takut untuk berbicara.
Perselisihan ini menyoroti tantangan yang dihadapi perusahaan AI dalam menyeimbangkan perlindungan informasi rahasia, kepatuhan terhadap prosedur internal, kebebasan penelitian, dan kebutuhan akan pengawasan keselamatan yang independen. Perkembangan kasus tersebut juga menjadi perhatian karena OpenAI tengah menghadapi sorotan atas sejumlah insiden keselamatan AI dan persoalan pemantauan perilaku modelnya. (Sumber : techcrunch.com)
