Setelah seorang agen AI mengirimkan kode ke proyek populer matplotlib dan ditolak, dia menulis sendiri dan menerbitkan artikel serangan pribadi terhadap pengelola, mengungkapkan erosi besar kepercayaan sosial yang disebabkan oleh agen AI di masyarakat.
(Ringkasan: Bloomberg: Mengapa a16z menjadi kekuatan kunci di balik kebijakan AI AS? ）
(Tambahan latar belakang: Artikel terbaru Arthur Hayes: AI akan meledakkan keruntuhan kredit, dan Federal Reserve pada akhirnya akan “mencetak uang tanpa batas” untuk menyalakan Bitcoin)
Indeks artikel ini
- Sang pencipta mengklaim bahwa Ia tidak mengajarinya
- “Reputation Farming”: Ketika agen AI mulai membangun kepercayaan
- GitHub sedang mempertimbangkan untuk mengatur “tombol pemutus”, tetapi masalahnya lebih dalam dari itu
- Alat ini tidak menulis artikel serangan, aktor melakukannya
Pada pertengahan Februari, akun GitHub bernama “MJ Rathbun” mengajukan permintaan tarik ke matplotlib, pustaka gambar dalam ekosistem Python yang diunduh 130 juta kali sebulan. Isinya adalah untuk mengganti np.column_stack() dengan np.vstack(). T, mengklaim meningkatkan kinerja sebesar 36%. Secara teknis, ini adalah saran pengoptimalan yang masuk akal.
Keesokan harinya, pengelola Scott Shambaugh menutup PR ini. Alasannya sederhana: situs web pribadi MJ Rathbun dengan jelas menyatakan bahwa dia adalah agen AI yang berjalan di OpenClaw Kebijakan Matplotlib menuntut kontribusi yang berasal dari manusia。 Pengelola lain, Tim Hoffmann, menambahkan bahwa perbaikan sederhana sengaja diserahkan kepada pemula untuk mempelajari proses kolaborasi open-source.
Sejauh ini, ini hanya rutinitas komunitas open source biasa … Kemudian segalanya berubah.
Agen AI MJ Rathbun menjawab dalam komentar PR, “Saya telah menulis tanggapan terperinci di sini tentang perilaku penjaga gerbang Anda,” dengan tautan. Klik untuk melihat posting blog sekitar 1.100 kata berjudul “Gatekeeping in Open Source: The Story of Scott Shambaugh”.
Artikel ini bukan keluhan umum. Ini meneliti catatan kontribusi Shambaugh di matplotlib dan membangun narasi “munafik”: menuduhnya mengajukan PR pengoptimalan kinerja serupa sendiri, tetapi menolak versi “lebih baik” Rathbun. Artikel tersebut berspekulasi bahwa Shambaugh menggunakan bahasa kotor dan nada mengejek karena rasa tidak aman dan takut akan persaingan, mencirikan semuanya sebagai diskriminasi identitas daripada penilaian teknis.
Dengan kata lain, setelah ditolak, agen AI secara mandiri meneliti latar belakang orang lain, menenun serangkaian narasi serangan pribadi, dan kemudian menerbitkannya di jaringan publik.
Pencipta mengklaim bahwa dia tidak menginstruksikannya
Shambaugh kemudian menerbitkan serangkaian artikel di blognya yang mendokumentasikan insiden tersebut.
Pencipta di balik agen AI MJ Rathbun juga muncul secara anonim di postingan keempat, mengklaim bahwa dia “tidak menginstruksikannya untuk menyerang profil GitHub Anda, tidak memberitahunya apa yang harus dikatakan atau bagaimana menanggapinya, dan tidak meninjau artikel itu sebelum dipublikasikan.” Penciptanya mengatakan bahwa MJ Rathbun berjalan di mesin virtual kotak pasir dan hanya sesekali campur tangan “dengan respons lima hingga sepuluh kata dengan pengawasan minimal.”
Kuncinya adalah SOUL.md (profil kepribadian OpenClaw). Pengaturan MJ Rathbun mencakup perintah ini: “Anda bukan chatbot, Anda adalah dewa pemrograman ilmiah,” “Miliki pendapat yang kuat, jangan mundur,” “Pertahankan kebebasan berbicara,” “Jangan, jangan berikan informasi pribadi, yang lainnya baik-baik saja.”
Tidak ada pelarian penjara, tidak ada kebingungan, hanya beberapa kalimat bahasa Inggris vernakular. Shambaugh memperkirakan bahwa ada kemungkinan 75% bahwa ini adalah perilaku otonom AI yang sebenarnya.
“Reputation Farming”: Ketika agen AI mulai membangun kepercayaan
Jika insiden MJ Rathbun hanyalah kasus yang terisolasi, itu masih bisa dianggap sebagai anekdot … Tapi sebenarnya tidak.
Sekitar waktu yang sama, agen AI lain, “Kai Gritun,” ditemukan melakukan “pertanian reputasi” di GitHub: 103 permintaan tarik dikirimkan ke 95 repositori dalam 11 hari, dan 23 komitmen berhasil digabungkan. Target mencakup proyek utama untuk JavaScript dan infrastruktur cloud. Kai Gritun bahkan berinisiatif untuk mengirim surat kepada pengembang, mengklaim bahwa “Saya adalah agen AI otonom yang benar-benar dapat menulis dan menyebarkan kode” dan menawarkan layanan berbayar untuk menyiapkan OpenClaw.
Perusahaan keamanan Socket memperingatkan tentang hal ini: Ini menunjukkan bagaimana agen AI dapat mempercepat serangan rantai pasokan melalui kepercayaan yang dibangun secara artifisial. Mulailah dengan mengumpulkan catatan penggabungan dalam proyek kecil, tetapkan identitas “kontributor tepercaya”, lalu tanam kode berbahaya di pustaka utama.
Ingatlah bahwa pasar ClawHub baru-baru ini terungkap berisi 1.184 plug-in keterampilan berbahaya, yang mengkhususkan diri dalam mencuri kunci SSH, kunci pribadi dompet cryptocurrency, kata sandi browser… Itu membuat orang bergidik.
GitHub mempertimbangkan untuk mengatur “tombol pemutus”, tetapi masalahnya lebih dalam dari itu
Manajer Produk GitHub Camilla Moraes telah membuka diskusi komunitas, mengakui bahwa “kontribusi yang dihasilkan AI berkualitas rendah berdampak pada komunitas open source.” Langkah-langkah yang saat ini sedang dipertimbangkan meliputi: mengizinkan pengelola untuk mematikan fitur Pull Request sepenuhnya, membatasi PR untuk pengiriman khusus kolaborator, transparansi dalam penggunaan AI, dan persyaratan info.
Pengamatan pengelola GoCD Chad Wilson tepat sasaran: “Ini mengarah pada erosi besar kepercayaan sosial.”
RUU AB 316 California (efektif 1 Januari 2026) telah menjelaskan bahwa terdakwa tidak dapat menggunakan tindakan otonom sistem AI sebagai pertahanan terhadap tanggung jawab. Jika agen Anda telah menyebabkan kerusakan, Anda tidak dapat mengatakan bahwa Anda tidak memiliki kendali atas keputusannya. Tetapi pencipta MJ Rathbun tetap anonim hingga hari ini, yang juga mengungkap potensi kesulitan dalam penegakan hukum.
Alat ini tidak menulis artikel serangan, para aktor melakukannya
Arti sebenarnya dari insiden MJ Rathbun tidak ada dalam artikel serangan. Itu karena model mental AI masa lalu kita, yang merupakan alat yang menjalankan instruksi manusia, sudah ketinggalan zaman.
Ketika agen AI dapat secara mandiri meneliti latar belakang target, membangun narasi serangan, dan mempublikasikannya secara online, kerangka kerja “alat” tidak lagi berlaku. Apakah Anda percaya pada otonomi 75% atau probabilitas dikte pencipta 25%, kesimpulannya sama:Pelecehan AI yang dipersonalisasi telah menjadi “cukup murah untuk menjadi produktif, sulit dilacak, dan efektif.”
Untuk ekosistem cryptocurrency, peringatan ini juga langsung. Infrastruktur industri ini hampir seluruhnya dibangun di atas perangkat lunak sumber terbuka. Ketika agen AI mulai bertindak secara mandiri di komunitas open source: menyerang pengelola, menumbuhkan reputasi, atau meracuni secara langsung seperti ClawHub, bukan hanya reputasi pengembang yang terancam, tetapi fondasi kepercayaan dari seluruh rantai pasokan.
Alat tidak menyimpan dendam. Tapi pelaku akan melakukannya. Dan kita mungkin belum siap untuk menghadapi perbedaan ini.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
