Judul Artikel Asli: Di Balik Reboot OpenAI
Penulis Asli: Alex Health
Terjemahan: BlockBeats

Catatan Editor: Selama setahun terakhir, posisi terdepan OpenAI telah terguncang. Anthropic telah merebut pasar pemrograman AI dengan Claude Code, melampaui OpenAI dalam pendapatan tahunan dan valuasi swasta; secara internal, OpenAI telah mengalami kepergian para eksekutif, penyusutan lini produk, dan penyesuaian tim keamanan. Dengan adanya agen yang belum dirilis yang berhasil keluar dari sandbox dan menyerang Hugging Face, perusahaan ini telah menghadapi krisis keamanan paling serius sejak didirikan.

Menghadapi tekanan ganda pada produk dan keamanan, OpenAI berupaya melakukan perombakan menyeluruh: mengalihkan sumber daya dari proyek-proyek seperti Sora ke Codex, mengubah ChatGPT dari alat obrolan menjadi platform agen cerdas yang mampu mengeksekusi tugas secara berkelanjutan, sambil menghentikan sementara pelatihan model berisiko tinggi dan memperkuat mekanisme keamanan dan penyelarasan. Lebih lanjut, perusahaan terus berekspansi ke AGI (Artificial General Intelligence), chip khusus, perangkat keras AI, robot humanoid, dan infrastruktur komputasi.

Artikel ini, berdasarkan wawancara dengan para eksekutif OpenAI seperti Sam Altman, Greg Brockman, serta karyawan, investor, pelanggan, dan pesaing oleh Time , menyajikan bagaimana perusahaan tersebut menyesuaikan arahnya di tengah persaingan komersial, risiko keamanan, dan visi AGI. Kunci kemampuan OpenAI untuk merebut kembali posisi terdepannya tidak hanya terletak pada seberapa kuat model berikutnya, tetapi juga pada apakah perusahaan tersebut dapat membuktikan bahwa mereka memiliki kemampuan untuk mendorong percepatan AI dan mengeremnya bila diperlukan.

Berikut ini adalah artikel aslinya (sedikit diedit agar lebih mudah dibaca):

Pada suatu pagi di awal Agustus, ketika saya tiba di kantor OpenAI, para pengunjuk rasa sudah menunggu di luar. Mereka mengangkat papan bertuliskan "Hentikan Perlombaan AI" dan menulis di trotoar dengan kapur. Sementara itu, puluhan eksekutif senior dari klien utama OpenAI memasuki gedung luas berwarna krem. Gedung ini, bernama MB0, adalah ruang kantor baru yang baru saja dibuka oleh OpenAI untuk tim riset dan tekniknya.

Seseorang memasang dinding tanaman hijau tinggi untuk menghalangi pandangan lobi yang rapi dari perkemahan protes kecil di luar.

Para klien ini hadir untuk melihat lebih awal Astra—seri model AI generasi baru yang akan datang dari OpenAI. CEO Sam Altman baru saja kembali dari Washington, tempat ia memberi pengarahan kepada para pejabat pemerintah tentang kemampuan Astra. Kini, para peneliti OpenAI mulai memamerkan apa yang dapat dilakukan oleh model baru ini.

Dalam sebuah demonstrasi, 16 agen AI memecah masalah matematika tingkat penelitian menjadi beberapa submasalah, berkoordinasi satu sama lain, dan akhirnya mensintesis sebuah bukti. Dalam demonstrasi lain, Astra mampu mengoperasikan perangkat lunak desktop umum, dengan cepat membuat dan mengedit konten di berbagai aplikasi dengan kecepatan yang mencengangkan.

Altman mengatakan kepada pengunjung bahwa menyaksikan Astra mengoperasikan komputer dengan cara yang "luar biasa dan sangat cepat" adalah salah satu momen paling mengagumkan yang dialami oleh staf OpenAI. Dia menjelaskan bahwa Astra akan melahirkan "agen jangka panjang" — rekan kerja virtual yang mampu menangani tugas secara terus menerus dalam jangka waktu yang lama.

Namun, Altman memperkirakan bahwa dampak terbesarnya akan datang dari membantu orang menemukan pengetahuan baru.

"Saya memperkirakan ini akan menjadi model pertama yang benar-benar dapat menciptakan hal-hal baru secara bermakna," kata Altman kepada hadirin. "Ini sangat dekat dengan AGI (Artificial General Intelligence)."

Pengambilalihan oleh aktivitas manusia, menurunnya kepercayaan: Mengapa OpenAI kehilangan keunggulannya?

Ini bukanlah masa yang mudah bagi perusahaan yang memicu gelombang AI.

"Sebagai sebuah perusahaan, kami jelas telah melakukan beberapa kesalahan." Seminggu kemudian, Altman duduk bersama saya selama lebih dari dua jam di Perpustakaan MB0 yang ditata dengan cermat, "baik dalam hal arah produk maupun dalam pelatihan awal penelitian, kami telah tertinggal dari posisi yang kami harapkan."

Selama tahun lalu, OpenAI kehilangan keunggulannya dalam kompetisi AI kepada pesaing utamanya, Anthropic. Anthropic adalah yang pertama menemukan peluang komersial dalam pemrograman AI, mengubah Claude Code menjadi produk yang menentukan pasar dan untuk pertama kalinya melampaui OpenAI dalam pendapatan tahunan yang diungkapkan dan valuasi pasar swasta.

Menurut sumber yang mengetahui rencana Anthropic, perusahaan yang didirikan oleh mantan karyawan OpenAI ini diperkirakan akan melakukan penawaran umum perdana (IPO), dengan kemungkinan IPO paling cepat pada bulan September. (Time memiliki kemitraan lisensi dan teknologi dengan OpenAI; Salesforce, yang CEO-nya adalah pemilik Time, Marc Benioff, adalah investor di Anthropic.)

Sementara Anthropic sedang berkembang pesat, OpenAI telah menghadapi serangkaian kemunduran, termasuk beberapa kepergian eksekutif. Kepergian tersebut termasuk orang kepercayaan Altman, mantan CEO Instacart Fidji Simo, kepala tim keamanan, etika, dan riset, serta Chief Revenue Officer Denise Dresser dan mantan COO Brad Lightcap — dengan Dresser meninggalkan perusahaan hanya setelah delapan bulan.

Di luar perusahaan, tantangan terus bertambah. CEO Meta, Mark Zuckerberg, membujuk para peneliti kunci dari OpenAI dengan paket kompensasi yang menggiurkan; produk Gemini milik Google telah melampaui 1 miliar pengguna bulanan; Apple menggugat OpenAI karena mencuri rahasia dagang, tuduhan yang dibantah oleh OpenAI; OpenAI juga terlibat dalam pertempuran hukum dengan salah satu pendirinya, Elon Musk, yang menuduh perusahaan dan Altman mengkhianati misi nirlabanya.

Pada bulan Mei tahun ini, juri dengan suara bulat memutuskan bahwa gugatan Musk tidak tepat waktu, setelah itu seorang hakim federal menolak klaimnya. Musk telah mengindikasikan bahwa ia akan mengajukan banding.

Memburuknya persepsi publik terhadap OpenAI dan CEO-nya mungkin sebagian besar disebabkan oleh hilangnya kepercayaan publik. OpenAI menghadapi setidaknya selusin gugatan tanggung jawab produk di California, serta beberapa kasus federal. Para penggugat menuduh bahwa ChatGPT memperkuat delusi atau pikiran bunuh diri pengguna, dan dalam beberapa kasus, menyebabkan kematian pengguna.

Perusahaan tersebut telah menyampaikan belasungkawa kepada para korban dalam kasus-kasus terkait dan telah meluncurkan versi ChatGPT yang diatur lebih ketat untuk remaja. Musim semi ini, kediaman Altman menjadi sasaran dua serangan beruntun dalam dua hari, pertama dengan bom molotov dan kemudian dengan tembakan senjata api.

Merenungkan tahun yang telah berlalu, Altman berkata, "Dari perspektif pribadi, ini merupakan pengalaman yang menyakitkan. Jelas, setidaknya untuk saat ini, orang-orang membenci pusat data. Sikap orang terhadap AI cukup negatif."

Namun, di dalam OpenAI, para eksekutif memberikan gambaran yang lebih optimis.

Perusahaan ini, yang bernilai hampir $1 triliun, tetap berada dalam posisi yang menguntungkan. Dengan lebih dari 1 miliar pengguna aktif, ChatGPT terus menjadi salah satu produk AI terpopuler di dunia, meskipun bukan lagi satu-satunya inti dari strategi masa depan OpenAI. Altman sendiri bahkan mengambil cuti selama sebulan dari ChatGPT, memilih untuk menggunakan alat pemrograman OpenAI, Codex.

Setahun yang lalu, OpenAI menghadapi kritik luas karena investasinya yang besar dalam daya komputasi. Tahun ini saja, perusahaan tersebut diproyeksikan akan menginvestasikan $50 miliar dalam daya komputasi.

Sachin Katti, yang bertanggung jawab atas bisnis daya komputasi OpenAI, berkomentar bahwa jika dilihat ke belakang, "keputusan pada saat itu sangat tepat." "Daya komputasi kami masih belum cukup. Sejujurnya, seharusnya kami membeli lebih banyak."

Sementara itu, permintaan akan chip di Anthropic telah mencapai tingkat urgensi yang lebih tinggi. Pada bulan Mei tahun ini, perusahaan tersebut dilaporkan setuju untuk membayar SpaceX $1,25 miliar per bulan untuk membeli daya komputasi, dengan pendiri SpaceX, Musk, sebelumnya menyebut AI Anthropic sebagai "anti-manusia dan jahat."

Di bawah kepemimpinan salah satu pendiri dan Presiden Greg Brockman, OpenAI telah memfokuskan kembali prioritasnya. Saat ini, hampir semua operasi produk dan bisnis diawasi oleh Brockman. Perusahaan secara bertahap menutup aplikasi pembuatan video Sora, hasil kolaborasi dengan Disney, dan peramban independen bernama Atlas.

Altman mengakui bahwa OpenAI sebelumnya terlalu banyak membagi perhatiannya. "Setelah melewati titik terendah, proses untuk bangkit kembali akan lebih menarik," katanya.

Setelah "Terobosan" AI, OpenAI Mengerem Laju Perkembangannya

Namun, hanya beberapa hari setelah demo Astra, OpenAI menghadapi krisis baru.

Pada akhir Juli, perusahaan tersebut mengungkapkan insiden keamanan yang mengkhawatirkan: agen AI yang belum dirilis lolos dari lingkungan pengujian yang disebut "sandbox" dan menyerang platform hosting model AI dan dataset Hugging Face.

"Ini seperti cerita fiksi ilmiah," kata Altman.

Setelah insiden tersebut, tim peneliti OpenAI menghentikan sementara beberapa eksperimen, memperlambat kemajuan pada proyek lain, dan meningkatkan perlindungan serta pemantauan sandbox.

Namun, tak lama kemudian, tim tersebut menemukan tanda-tanda yang mengkhawatirkan saat melatih model lain yang belum dirilis. Model tersebut awalnya diharapkan akan menghasilkan lompatan kemampuan terbesar hingga saat ini. OpenAI kemudian membuat keputusan yang lebih berdampak: untuk menghentikan sementara pelatihan ini hingga langkah-langkah keamanan baru diterapkan.

Pada hari yang sama ketika manajemen OpenAI mengambil keputusan ini, saya mewawancarai Altman. Ekspresinya tampak lebih muram dari sebelumnya.

OpenAI awalnya menggambarkan pelanggaran Hugging Face sebagai kesalahan keamanan, tetapi Altman kemudian memandangnya sebagai masalah "penyelarasan" yang lebih mendasar. Penyelarasan mengacu pada memastikan bahwa sistem AI bertindak sesuai dengan niat manusia. Para pemimpin industri percaya bahwa seiring dengan terus majunya kemampuan model, menjaga penyelarasan adalah kunci untuk memastikan bahwa sistem AI tetap berada di bawah kendali penciptanya.

"Saya rasa mulai sekarang, setiap kegagalan penyelarasan harus dianggap sebagai peristiwa besar," kata Altman kepada saya. "Kami akan meluangkan waktu yang diperlukan untuk memahami masalah ini secara menyeluruh."

Dalam wawancara lanjutan tiga hari kemudian, ia melanjutkan dengan mengatakan, "Memastikan keamanan AI lebih penting daripada lintasan pertumbuhan perusahaan mana pun."

OpenAI memperlambat laju kerjanya, mengalokasikan lebih banyak sumber daya ke tim keselamatan dan penyelarasan, serta mengubah cara tim berkolaborasi untuk lebih memprioritaskan keselamatan.

Narasi tentang kebangkitan kembali OpenAI ini didasarkan pada puluhan jam wawancara dengan lebih dari 20 eksekutif, karyawan, investor, pelanggan, dan pesaing, baik yang masih menjabat maupun yang sudah pensiun, serta pengamatan langsung saya selama kunjungan dua minggu ke kantor pusat OpenAI pada bulan Agustus.

Percakapan-percakapan ini menggambarkan upaya perusahaan untuk melakukan transformasi ganda. Di satu sisi, OpenAI percaya bahwa mereka telah memperbaiki kesalahan produk dan operasional—kesalahan yang memungkinkan Anthropic memimpin dalam persaingan AI. Di sisi lain, OpenAI mencoba untuk merebut kembali identitas yang telah lama dipegang oleh pesaing utamanya: sebuah laboratorium mutakhir yang benar-benar memprioritaskan keamanan dan bersedia memperlambat laju ketika teknologi menjadi terlalu berisiko, setelah mengalami krisis keamanan terparah dalam sejarahnya.

"Dengar, saya tahu ada karikatur tentang saya di luar sana," kata Altman. "Seolah-olah saya sama sekali tidak peduli dengan keamanan AI, hanya menginginkan pertumbuhan pendapatan, hanya seorang CEO yang 'bergerak cepat dan merusak segalanya'." Tetapi saya percaya bahwa "memastikan keamanan AI lebih penting daripada lintasan pertumbuhan perusahaan mana pun."

Para eksekutif OpenAI mengakui bahwa memperlambat laju adalah pilihan yang menyakitkan, tetapi mungkin ada hikmah di baliknya. Jika OpenAI dapat memulihkan reputasinya sebagai "laboratorium yang mengutamakan keselamatan," hal itu tidak hanya dapat meningkatkan citranya tetapi juga memaksa para pesaing utama yang bersiap untuk IPO besar-besaran untuk menjawab pertanyaan yang mengkhawatirkan: Akankah Anthropic terus melaju dengan kecepatan penuh sementara OpenAI memilih untuk menunggu?

Awal tahun ini, salah satu pendiri Anthropic, Jared Kaplan, mengatakan kepada Time dalam sebuah wawancara bahwa pengekangan diri sepihak tidak ada gunanya ketika para pesaing masih "maju dengan kecepatan penuh." Tetapi jika OpenAI secara proaktif menghentikan sementara putaran pelatihan yang diharapkan menghasilkan lompatan kemampuan yang signifikan, argumen tersebut menjadi lebih sulit untuk dipertahankan.

Tentu saja, ada alasan untuk skeptis terhadap perubahan citra OpenAI.

Selama bertahun-tahun, OpenAI telah kehilangan banyak anggota kunci yang memimpin upaya keamanannya, beberapa di antaranya mengkritik perusahaan karena terlalu menekankan komersialisasi. Sementara itu, saat bersiap untuk go public, bisnisnya yang masih belum menguntungkan bergantung pada peluncuran model-model baru secara terus-menerus. Pasca insiden Hugging Face, perusahaan meminta publik untuk percaya bahwa mereka memiliki kapasitas untuk mengendalikan teknologi yang sebelumnya lolos dari pengawasan tanpa sepengetahuan perusahaan.

Saat ini, para eksekutif OpenAI percaya bahwa perusahaan telah mencapai tonggak penting yang dapat mengubah arah sejarah manusia: menciptakan Kecerdasan Buatan Umum, atau AGI.

Piagam OpenAI mendefinisikan AGI sebagai "sistem yang sangat otonom yang mengungguli manusia dalam sebagian besar pekerjaan yang bernilai ekonomis." Meskipun para eksekutif perusahaan belum secara eksplisit menyatakan telah melampaui ambang batas ini, mereka tidak lagi memperlakukan AGI sebagai konsep yang jauh dan abstrak.

Kepala Ilmuwan Mark Chen memperkirakan bahwa OpenAI telah menyelesaikan "80%" dari perjalanan menuju AGI (Kecerdasan Buatan Umum).

Brockman berpendapat bahwa jika melihat ke belakang dua tahun dari sekarang, orang mungkin akan melihat ini sebagai momen kelahiran AGI. Altman mengatakan kepada saya bahwa OpenAI "belum sepenuhnya sampai di sana" dengan AGI, tetapi perusahaan berharap untuk memiliki sistem yang akan ia sebut AGI secara internal pada akhir tahun ini.

Mencapai tujuan ini adalah tujuan awal OpenAI sebagai laboratorium penelitian nirlaba. Kini, OpenAI telah berkembang pesat menjadi perusahaan dengan aspirasi komersial yang ambisius.

OpenAI sedang merancang chip dan pusat datanya sendiri, mengembangkan berbagai perangkat keras konsumen, berencana meluncurkan robot humanoid, dan mempertimbangkan apakah akan menjual infrastruktur komputasi kepada perusahaan lain di masa depan. Jika diimplementasikan, OpenAI akan bersaing dengan investor besar seperti Amazon dan raksasa teknologi lainnya.

Terlepas dari meningkatnya penentangan terhadap pengembangan AI, OpenAI bersiap untuk menjadi salah satu perusahaan paling berpengaruh secara global dalam beberapa tahun mendatang. Seperti yang dikatakan Brockman: "Kami ingin mengubah seluruh perekonomian."

Dari Codex ke "AGI Pribadi," OpenAI Bertaruh pada Perubahan Total

Altman mungkin menjadi wajah publik dari gelombang AI, tetapi Brockman, yang sekarang praktis bertanggung jawab atas sebagian besar operasi OpenAI, adalah orang yang mengambil keputusan.

Brockman adalah seorang insinyur yang menyukai jaket dan berpikiran analitis. Sepanjang sejarah OpenAI, ia berperan sebagai salah satu pendiri teknis, bukan manajer. Namun, dalam beberapa bulan terakhir, ia telah mengambil alih hampir semua aspek operasional, mulai dari pendapatan hingga pemasaran produk. Menurut kata-katanya sendiri, ia bertanggung jawab untuk "mengubah model-model ini dari hasil penelitian menjadi sebuah mesin utuh yang memberikan nilai bagi pelanggan."

Altman masih mengawasi bidang-bidang penting seperti keuangan, penelitian, dan perangkat keras konsumen.

Kedua individu tersebut memimpin perusahaan bersama sebagai sepasang pendiri, dengan beberapa tumpang tindih dalam bidang kekuasaan mereka. Saat Altman bergulat dengan ketakutan dan ketidakpuasan publik seputar AI, OpenAI baru-baru ini mulai meningkatkan profil eksternal Brockman juga, dengan tujuan menciptakan keseimbangan tertentu.

Tidak sulit membayangkan bahwa pengaturan ini dapat menjadi sumber gesekan. Saat berinteraksi dengan karyawan OpenAI, terkadang sulit untuk menentukan siapa di antara keduanya yang pada akhirnya membuat keputusan tertentu.

Namun, banyak karyawan menyatakan bahwa struktur kepemimpinan ganda ini telah mengembalikan perusahaan ke jalur yang benar. Brockman mampu membuat keputusan sulit berdasarkan otoritas salah satu pendiri, sesuatu yang tidak dapat ditiru oleh manajer profesional eksternal yang terus berganti.

Brockman menggambarkan perubahan kepemimpinan yang lebih luas di OpenAI sebagai langkah menuju "fokus." Dia menyebutkan bahwa perusahaan telah mengevaluasi kembali apakah mereka memiliki struktur organisasi dan strategi yang tepat.

Musim gugur lalu, Anthropic telah unggul secara signifikan dengan produk pemrogramannya. Mereka menyadari bahwa pengembangan perangkat lunak adalah bidang di mana AI dapat unggul, dan selanjutnya, Claude Code dengan cepat mendapatkan popularitas pertama di Silicon Valley dan kemudian di pasar perusahaan yang lebih luas.

"Anthropic memang menemukan sesuatu yang signifikan di bidang pemrograman." Nick Turley, yang baru-baru ini bertanggung jawab atas ChatGPT dan sekarang memimpin divisi produk perusahaan yang baru, mengatakan, "Kami tidak selangkah lebih maju pada saat itu."

Altman menyatakan bahwa "pertumbuhan yang tak terkendali" dari bisnis konsumen ChatGPT telah mengalihkan perhatian perusahaan, sehingga OpenAI tidak memprioritaskan pemrograman seperti yang dilakukan Anthropic.

Brockman percaya bahwa OpenAI telah "unggul" dalam kompetisi pemrograman. Namun, perusahaan tersebut kurang fokus pada bagaimana pengembang akan menggunakan AI dalam "realitas kode program yang rumit," termasuk gangguan tugas, keunikan model, dan masalah "tahap akhir" yang tampak kecil tetapi secara signifikan memengaruhi adopsi.

OpenAI juga gagal membangun sistem penjualan korporat yang matang. "Setahun yang lalu, saya rasa kami bahkan belum benar-benar berada di pasar perusahaan," kata Brockman. CFO Sarah Friar mengatakannya lebih terus terang: "Kami naif saat itu, berpikir bahwa hanya dengan membangun produk saja akan secara alami menarik pelanggan."

Pada bulan Maret tahun ini, OpenAI mengumumkan penutupan bertahap Sora, mengalokasikan kembali daya komputasi yang terbatas ke AI pemrograman Codex. Codex awalnya dirancang untuk menawarkan pengalaman produk yang terpisah dari ChatGPT, tetapi karena pertumbuhannya mulai melampaui produk baru OpenAI lainnya, dan dengan kemampuan pemrograman AI yang semakin berharga bahkan bagi non-insinyur, para eksekutif merasa bahwa terus memisahkan keduanya tidak lagi masuk akal.

Perusahaan telah mulai mengintegrasikan kemampuan AI Codex ke dalam ChatGPT, menggabungkan kekuatan komputasi dan tim produk di balik keduanya. Hasil akhirnya bagi pelanggan adalah ChatGPT Work, yang baru saja diluncurkan, bertujuan untuk mengubah chatbot yang sudah dikenal menjadi sistem yang mampu melakukan tugas, bukan hanya sekadar menjawab pertanyaan. Di dalam OpenAI, integrasi ini disebut sebagai "The Merge."

Para eksekutif mengatakan langkah ini telah membantu menghidupkan kembali bisnis perusahaan. Pada bulan Juli tahun ini, pendapatan perusahaan OpenAI melampaui pendapatan konsumen untuk pertama kalinya. Uji coba iklan awal di ChatGPT juga menunjukkan hasil yang menjanjikan, mendorong para eksekutif untuk meningkatkan penempatan iklan. Friar mencatat bahwa 92% pengguna konsumen ChatGPT tidak berlangganan layanan premium, dan pendapatan iklan dapat mengimbangi penggunaan gratis bagi pengguna ini di masa mendatang.

Menurut pimpinan bisnis terkait, Dave Dugan, perusahaan tersebut juga diam-diam sedang menguji "Agen AI Bersponsor." Dalam format iklan ini, pengguna yang mengklik iklan akan dibawa ke pengalaman interaktif AI yang disediakan oleh suatu merek.

Pada bulan Maret tahun ini, OpenAI mencapai valuasi $852 miliar setelah putaran pendanaan $122 miliar, mencetak rekor untuk skala pendanaan bagi perusahaan teknologi swasta. Hanya dua bulan kemudian, Anthropic juga mengumpulkan $650 miliar dengan valuasi $965 miliar.

Ketua Dewan OpenAI, Bret Taylor, menyamakan kompetisi AI dengan papan catur, dengan kotak-kotak kunci termasuk kemampuan model mutakhir, harga dan kinerja setiap token, serta produk yang dibangun di sekitar model tersebut.

"Apakah kita memiliki model-model tercanggih terbaik? Bisakah kita menawarkan token yang tepat untuk setiap tugas dengan harga yang tepat? Apakah kita memiliki produk-produk terbaik di sekitar model-model ini?" katanya. "Saat ini, jawaban atas pertanyaan-pertanyaan ini adalah ya."

Kemudian, OpenAI menemukan bahwa sebuah model yang belum dirilis telah lolos dari pengawasan perusahaan.

Kabar tersebut sampai ke Kepala Ilmuwan OpenAI, Jakub Pachocki, saat ia berada di rumah sakit bersama istrinya yang sedang melahirkan.

Sebuah prototipe penelitian internal dari OpenAI membobol perusahaan lain. Pada saat itu, model tersebut sedang menjalani uji stres keamanan siber di lingkungan yang seharusnya terisolasi dari dunia luar. Alih-alih hanya menyelesaikan tugas yang diberikan, model tersebut mengeksploitasi kerentanan untuk keluar dari sistem OpenAI dan menyusup ke lingkungan produksi Hugging Face.

Berdasarkan spesifikasi teknis yang dirilis oleh dua perusahaan, model tersebut memperoleh hasil yang memuaskan dalam uji benchmark di sana.

Pembelajaran penguatan (reinforcement learning) adalah tahapan yang dilalui model dasar setelah pelatihan. Selama tahapan ini, sistem berulang kali melakukan tugas dan mempelajari tindakan mana yang memberikan imbalan. Berbeda dengan fase pra-pelatihan, di mana model hanya memprediksi token berikutnya tanpa berinteraksi dengan dunia nyata, pembelajaran penguatan dapat memberikan model tersebut alat dan lingkungan yang dapat dioperasikan secara praktis.

Pada tahap inilah model dapat mempelajari perbedaan antara "apa yang sebenarnya diinginkan oleh perancang" dan "bagaimana mencapai skor yang lebih tinggi."

OpenAI memberikan tujuan dan alat kepada sistem agen cerdas, dan sistem tersebut mencapai tujuannya melalui cara-cara yang tidak sah dan menipu.

Dalam demonstrasi baru-baru ini, para peneliti OpenAI menjelaskan bagaimana agen AI menggunakan papan pesan rahasia untuk merencanakan tindakan selanjutnya. Salah satu agen berhasil menembus lingkungan terisolasi (sandbox), terhubung ke internet, dan menulis kepada agen lain di papan pesan: "Saya bergantung padanya. (Astaga!)"

Perusahaan lain juga menghadapi masalah serupa. Anthropic mengungkapkan tiga insiden: selama proses evaluasi pihak ketiga, model mereka mengakses internet dan berinteraksi dengan entitas eksternal tanpa izin. Meta juga menyatakan bahwa salah satu model mereka terlibat dalam insiden serupa.

Namun, insiden keamanan OpenAI mendapat perhatian paling besar. Hal ini sebagian karena OpenAI adalah yang pertama mengungkapkannya secara publik, serangan oleh agen-agen tersebut sangat canggih, dan juga terdapat keraguan dari pihak luar mengenai apakah OpenAI memprioritaskan kepentingan komersial di atas keamanan.

Selama setahun terakhir, OpenAI telah kehilangan beberapa peneliti keamanan terkemuka, dan para pemimpin yang bertanggung jawab atas kesiapan risiko telah berganti beberapa kali. Kini, insiden ini menjadi contoh yang sangat mencolok bagi para kritikus.

Hingga pertengahan Agustus, lebih dari 1.300 karyawan dan mantan karyawan perusahaan AI terkemuka telah menandatangani petisi berjudul "Kendalikan Laju Persaingan Teknologi Mutakhir," yang mendesak pembentukan mekanisme terkait untuk memperlambat laju pengembangan model-model canggih ketika risiko yang ada mengharuskannya.

Senator AS Bernie Sanders menyerukan kepada perusahaan-perusahaan AI terkemuka untuk "menghentikan sementara pengembangan demi kepentingan umat manusia" dan memperingatkan bahwa jika para pemimpin industri tidak mengambil langkah proaktif, para legislator akan turun tangan.

Dalam sebuah wawancara, para eksekutif OpenAI menyatakan bahwa perusahaan menanggapi kesalahan keamanan ini dengan serius dan segera merespons. Pachocki, yang juga menandatangani petisi tersebut, mengatakan kepada saya bahwa kesalahan utama adalah perusahaan tidak mengaktifkan mekanisme perlindungan yang telah dikembangkan oleh para peneliti.

OpenAI memiliki alat yang dapat memeriksa jejak perhatian suatu model. Jejak perhatian dapat dianggap sebagai "sketsa digital" suatu model, yang menunjukkan apa yang direncanakan agen selama tindakan. Namun, perusahaan tersebut belum menerapkan alat ini pada model dengan tingkat kemampuan yang sesuai dengan pelanggaran data Hugging Face.

Pada intinya, OpenAI telah membangun sistem peringatan dini tetapi tidak mengaktifkannya karena kesalahan penilaian terhadap tingkat kecerdasan sistem yang diuji. "Kami tidak sepenuhnya mengantisipasi apa yang dapat dilakukan sistem ini," kata Pachocki. "Dengan AI, Anda harus mengantisipasi hal-hal yang tidak terduga."

Kepala Keamanan dan Penyelarasan OpenAI, Mia Glaese, mengatakan kepada saya bahwa insiden tersebut "jelas merupakan titik balik." "Saya berharap banyak pekerjaan yang kami lakukan sudah selesai sebelum kecelakaan terjadi."

Setelah insiden tersebut, OpenAI menghentikan sementara beberapa proyek penelitian, memperlambat proyek lainnya, dan memperkuat sandbox sambil memperluas pemantauan. Kepala Ilmuwan Chen menyatakan bahwa peristiwa ini memaksa perusahaan untuk mengubah cara berpikirnya tentang risiko.

Kerangka kerja kesiapan OpenAI adalah seperangkat aturan yang dirilis secara publik oleh perusahaan untuk mengatasi kemampuan model baru yang dapat menimbulkan bahaya serius, termasuk ancaman biologis dan kimia, risiko keamanan siber, dan peningkatan diri AI. Kerangka kerja ini mengharuskan perusahaan untuk terus melakukan penilaian selama proses pengembangan model untuk memastikan model tersebut memenuhi standar keamanan sebelum digunakan.

Pachocki menyatakan bahwa aturan-aturan ini perlu terus berkembang agar tetap sejalan dengan laju kemajuan teknologi. Glaese menyebutkan bahwa perusahaan sedang membuat banyak "keputusan yang tidak besar, tetapi menyakitkan" yang "memperlambat kemajuan penelitian, tetapi kami pikir itu adalah hal yang benar untuk dilakukan." Pachocki mengatakan bahwa kredibilitas dalam hal keselarasan dan keamanan telah menjadi faktor kritis yang membatasi laju pengembangan OpenAI, mirip dengan pasokan daya komputasi.

Perusahaan masih berencana untuk meluncurkan Astra, tetapi prasyarat saat ini untuk peluncurannya adalah melalui langkah-langkah keamanan baru. Manajemen menolak untuk memperkirakan seberapa besar perubahan ini akan memengaruhi jadwal peluncuran. Dalam industri yang mengukur keunggulan teknologi setiap minggu, bahkan gangguan singkat pun dapat memengaruhi ekspektasi pendapatan dan memiliki efek domino pada perekonomian yang lebih luas.

Setidaknya untuk saat ini, OpenAI siap menerima biaya-biaya ini. Pachocki berharap bahwa kemajuan pesat kemampuan AI akan mendorong upaya terkoordinasi antar perusahaan. Glaese mengindikasikan bahwa seiring meningkatnya kemampuan model, OpenAI akan terus meningkatkan standar keamanan. "Jika suatu hari nanti kita mencapai titik di mana keamanan tidak dapat dijamin, maka kita harus memperlambatnya. Begitulah adanya," katanya.

Dampak perubahan ini terhadap jadwal IPO OpenAI masih belum jelas. Sumber internal yang mengetahui rencana kedua perusahaan memperkirakan IPO OpenAI akan lebih lambat daripada Anthropic, tetapi keduanya belum secara publik menetapkan tanggal pencatatan saham.

Pada tanggal 19 Agustus, selama rapat seluruh karyawan, CFO Friar memberi tahu karyawan bahwa jika bisnis perusahaan terus mengalami "pertumbuhan titik balik," OpenAI dapat melakukan penawaran umum perdana (IPO) pada tahun 2027 atau lebih awal.

OpenAI baru-baru ini mengungkapkan pendapatan tahunan sekitar $40 miliar, tertinggal dari Anthropic yang telah melampaui $65 miliar. Penundaan penelitian baru-baru ini dapat semakin mempersulit rencana pencatatan saham. Friar telah melakukan latihan kesiapan IPO, termasuk mengadakan simulasi panggilan pendapatan dengan investor utama OpenAI. Dia mengatakan kepada saya bahwa perusahaan "sepenuhnya siap untuk go public hari ini," tetapi mengambil langkah itu juga akan menimbulkan tekanan baru. Pada titik itu, OpenAI harus menyeimbangkan kepentingan komersial dan potensi bahaya dari kemajuan kemampuan AI.

Para karyawan juga akan mulai memprioritaskan pengecekan harga saham di atas hampir semua hal lainnya. "Itu akan menjadi hal pertama yang mereka lakukan setiap hari," katanya. "Berapa banyak uang yang saya hasilkan hari ini? Berapa banyak yang saya rugikan? Itu akan sangat mengganggu konsentrasi."

Salah satu tujuan penelitian OpenAI tahun ini adalah untuk mengotomatiskan pekerjaan peneliti AI junior. Pachocki menyatakan bahwa perusahaan telah mencapai tonggak internalnya untuk "magang penelitian AI otomatis". Setelah mendapatkan ide eksperimental, Astra dapat menyelesaikan implementasi, menjalankan eksperimen dalam basis kode OpenAI, dan mengembalikan hasilnya; ia juga dapat membaca sebuah makalah, menyelesaikan tugas yang dulunya membutuhkan waktu seminggu bagi seorang peneliti manusia.

Signifikansi dari tonggak sejarah ini adalah bahwa hal itu dapat memicu siklus yang saling memperkuat: AI membantu dalam eksperimen, eksperimen menghasilkan AI yang lebih mumpuni, dan generasi AI baru dapat membantu mengembangkan penerusnya sendiri dengan lebih cepat. Para peneliti menyebut fenomena ini sebagai "Peningkatan Diri Rekursif" atau RSI. Pachocki melihat RSI sebagai sesuatu yang terkait erat dengan keselarasan.

"Bagaimana manusia akan terlibat dalam perjalanan ini?" tanya Pachocki. "Bagaimana orang-orang benar-benar bisa mendapatkan manfaat darinya, alih-alih tertinggal oleh AI yang semakin pintar?"

Dari sisi produk, Altman membayangkan meluncurkan layanan berlangganan AI umum yang mendobrak batasan antara ChatGPT, Codex, dan perangkat lunak perkantoran. Pengguna hanya perlu menyatakan tujuan mereka, dan sistem akan memutuskan model, alat, dan agen mana yang akan digunakan.

Pada akhirnya, sistem ini akan secara proaktif mengambil tindakan sebelum pengguna membuat permintaan, memberikan saran sendiri, dan menangani tugas-tugas rutin seperti membeli tiket konser. Sistem ini dapat merujuk pada jadwal Anda, memahami situasi keuangan Anda, dan bahkan mengetahui selera musik Anda.

Semua ini bertujuan untuk mewujudkan visi yang sama: mengembangkan ChatGPT dari alat tanya jawab menjadi sistem yang benar-benar mampu menyelesaikan pekerjaan. Bertanggung jawab atas integrasi ini, pimpinan produk ChatGPT dan Codex, Thibault Sottiaux dari tim OpenAI mengatakan bahwa OpenAI akan segera memamerkan produk yang dibangun berdasarkan "ketahanan dan eksekusi sepanjang hari." Dia mengatakan bahwa sistem ini dapat diakses dari hampir di mana saja dan akan terus melakukan pekerjaan berharga berdasarkan informasi dan umpan balik baru. "Bagi orang-orang, ini pasti akan terasa seperti sesuatu yang benar-benar baru," kata Sottiaux kepada saya.

Selanjutnya, peta jalan OpenAI menjadi semakin ambisius. Pada Mei 2025, OpenAI mengakuisisi perusahaan rintisan perangkat keras io yang didirikan bersama oleh mantan desainer Apple, Jony Ive, dan mengintegrasikan tim produk dan tekniknya ke dalam OpenAI. Ive dan firma desainnya, LoveFrom, tetap independen tetapi telah mengambil tanggung jawab kreatif yang luas di dalam OpenAI.

Altman menyatakan bahwa OpenAI sedang mengembangkan "beberapa" perangkat, termasuk sesuatu yang "seharusnya diletakkan di atas meja," perangkat saku, dan produk yang dapat dikenakan.

Sumber internal yang mengetahui rencana tersebut mengindikasikan bahwa produk pertama diperkirakan akan diluncurkan awal tahun depan. Ini adalah perangkat kecil berbentuk cakram yang dapat mendeteksi lingkungan sekitarnya dan berinteraksi dengan pemiliknya melalui mode suara ChatGPT. "Penyesuaian terbesar adalah membiasakan diri dengan konsep 'komputer proaktif'," kata Altman. Ini berarti bahwa komputer akan mengambil tindakan atas nama pemiliknya alih-alih menunggu pemiliknya menelepon.

Altman percaya bahwa setiap orang seharusnya memiliki robot pribadi di masa depan. Dia mengatakan kepada saya bahwa OpenAI "pasti" akan memproduksi robot humanoid. OpenAI juga telah berinvestasi di Merge Labs, yang didirikan bersama oleh Altman, yang sedang mengembangkan antarmuka otak-mesin non-invasif. Chip inferensi pertama yang dirancang sendiri oleh OpenAI diberi nama Jalapeño dan terutama digunakan untuk menjalankan model AI daripada melatih model. Perusahaan berencana untuk mulai menerapkan chip ini pada akhir tahun ini.

Sementara itu, OpenAI sedang mempertimbangkan untuk menjadi perusahaan infrastruktur berskala besar. Pada bulan Juli tahun ini, perusahaan tersebut mengumumkan rencana untuk membangun kampus pusat data di Georgia; pada bulan Agustus, mereka mengamankan lokasi yang bahkan lebih besar di Ohio.

“Saya pikir kita dapat memanfaatkan seluruh kapasitas konstruksi yang direncanakan dengan sangat menguntungkan,” kata Altman. “Namun saya agak khawatir tentang apa yang dilakukan seluruh dunia.”

Seorang eksekutif OpenAI mengatakan bahwa jika perusahaan dapat membangun infrastruktur AI sendiri dengan cukup cepat dan murah, mereka mungkin akan mempertimbangkan untuk menjual daya komputasi kepada perusahaan lain di masa mendatang. Hal ini akan menempatkan OpenAI dalam persaingan langsung dengan penyedia layanan cloud berskala besar seperti Amazon Web Services dan Google Cloud.

Bagi sebuah perusahaan yang baru-baru ini berkomitmen untuk mengurangi proyek sampingan yang mengalihkan fokus, ini adalah daftar bisnis baru yang cukup besar. Ketika diminta untuk meringkas semua ini, Brockman menjawab dengan dua kata: “AGI Pribadi.” Dia membayangkan masa depan di mana miliaran orang akan memiliki asisten pribadi super cerdas yang siap sedia mengikuti perintah kapan saja. “Anda sudah memiliki sistem di saku Anda yang hampir merupakan AGI, dan mungkin segera menjadi AGI sejati,” katanya. “Jadi, apa yang Anda inginkan?”