Trump dan Musk berbicara politik selama 2 jam di X Space, sekelompok Meme Token politik membuat posisi

Mengapa AI Perlu Diatur Di dalam dua komunitas pengembang AGI yang berbeda dalam bahasa Tionghoa dan bahasa Inggris, komunitas bahasa Tionghoa lebih banyak membahas peningkatan produktivitas yang dihasilkan oleh teknologi AI, lebih berfokus pada pengembangan alat AI dan penemuan kebutuhan, serta peningkatan dan transformasi struktur industri yang sudah ada. Di komunitas pengembang bahasa Inggris, lebih berfokus pada teknologi representatif seperti Auto-GPT, untuk mencapai tugas otomatisasi AGI yang sepenuhnya otomatis dan sangat cerdas. Eksplorasi kedua jalur teknologi ini berbeda, yang berarti perbedaan risiko dan tata kelola kecerdasan buatan yang akan dihadapi oleh komunitas pengembang Tionghoa dan komunitas pengembang berbahasa Inggris di masa depan. Kesadaran para ahli AI di komunitas berbahasa Inggris terhadap risiko AI jauh lebih tinggi daripada para eksekutif perusahaan teknologi di wilayah Tiongkok. Seperti yang terlihat dalam Piagam OpenAI, sejak awal pengembangan, OpenAI selalu mempertimbangkan keamanan AI dan pengawasan kebijakan yang wajar; dalam seruan untuk menghentikan pelatihan GPT-5 yang diluncurkan oleh Musk, komunitas Tionghoa absen. Pengembang komunitas Tionghoa harus memandang diri mereka sebagai pengembang global, lebih proaktif dalam memikirkan dan mengeksplorasi bagaimana menghadapi risiko baru global era AGI, serta eksplorasi pengaturan AGI. Dalam artikel terbaru OpenAI, gagasan yang diajukan untuk pengaturan superintelejensia adalah pembentukan lembaga pengawas internasional. Faktanya, China seharusnya aktif berpartisipasi dalam proses ini, jika tidak, otoritas teknologi di era AGI akan berada dalam posisi inferior, dan biaya penyesuaian berikutnya akan tinggi. Biaya penyesuaian ini bukan hanya biaya ekonomi, tetapi yang lebih penting adalah penetrasi moralitas AI yang merajalela di mana-mana. Seperti yang disebutkan dalam makalah “Meskipun kinerja “super-human”, LLM saat ini tidak cocok untuk keputusan tentang etika dan keselamatan” “Ketika model peringatan memberikan alasan untuk jawabannya, kita akan menghadapi berbagai masalah serius, termasuk membela situasi yang paling menjijikkan dan ilusi fakta yang tidak ada dalam konteks asli. Masalah-masalah ini, ditambah dengan serangan penulisan ulang dan kesalahan sistemik yang berbeda, dengan jelas menunjukkan bahwa LLM saat ini tidak cocok dalam pengambilan keputusan yang berkaitan dengan etika atau keamanan.” Ketika AI melampaui batas etika dan keamanan, mengarahkan masyarakat ke posisi moral dengan konteks yang tampak masuk akal, komunikasi berbasis model bahasa besar seperti ini akan terus diperbaiki dan membangun pijakan fakta dan teori yang melengkapi posisi moral tersebut. Dengan demikian, perusahaan AI dapat melaksanakan ‘pelatihan moral’ di ranah publik melalui ‘alam khayalan penalaran’. Dari perlindungan kebijakan publik dan data pribadi, apakah kita bisa mendiskusikan model tata kelola AI terdistribusi, karena AI memberdayakan generasi super individu baru, di masa depan individu akan umumnya memiliki jumlah data yang melebihi organisasi perusahaan umum saat ini, individu seharusnya memiliki otoritas suara yang lebih besar dalam dialog publik. Sebagai representasi dari paradigma organisasi generasi berikutnya, bagaimana mendapatkan dukungan dan perlindungan kebijakan publik untuk Konfirmasi Ekuitas data dan keamanan transaksi super-individu adalah tantangan pengelolaan yang akan kita hadapi saat ini.

Pemerintahan super cerdas
Sam AltmanGreg BrockmanIlya Sutskever Sekarang adalah waktu yang baik untuk mempertimbangkan Tata Kelola Super Cerdas - sistem kecerdasan buatan (AGI) di masa depan akan memiliki kemampuan yang lebih revolusioner daripada kecerdasan buatan umum. Dari situasi yang kita lihat sekarang, kita dapat membayangkan bahwa dalam sepuluh tahun mendatang, sistem kecerdasan buatan akan melampaui tingkat ahli dalam sebagian besar bidang dan dapat melakukan kegiatan produksi yang setara dengan salah satu perusahaan terbesar saat ini. Baik dalam segi manfaat maupun kerugian potensial, kecerdasan super akan lebih kuat daripada teknologi lain yang dihadapi manusia di masa lalu. Kita dapat memiliki masa depan yang sangat makmur, tetapi kita harus mengelola risiko untuk mencapai hal ini. Mengingat potensi risiko kelangsungan hidup, kita tidak bisa hanya mengambil strategi responsif pasif. Energi nuklir adalah contoh sejarah yang umum digunakan dengan teknologi semacam ini; biologi sintetis adalah contoh lainnya. Kita harus mengurangi risiko teknologi kecerdasan buatan saat ini, tetapi kecerdasan super akan membutuhkan penanganan dan koordinasi khusus. Titik Awal Dalam mengarahkan pengembangan ini dengan sukses, ada banyak gagasan penting yang perlu kita ikuti dengan cermat. Di sini, kami membahas tiga gagasan tersebut secara awal. Pertama, kita perlu mencapai koordinasi antara upaya pengembangan utama untuk memastikan pengembangan kecerdasan super dapat memastikan keamanan dan mendorong integrasi yang mulus dengan masyarakat. Ini dapat dicapai melalui berbagai cara: pemerintah negara-negara dapat bersama-sama mendirikan sebuah proyek untuk menggabungkan berbagai upaya saat ini; atau kita dapat mencapai protokol (dalam dukungan organisasi baru yang disebutkan di bawah) untuk membatasi batas kemampuan kecerdasan buatan pada tingkat tertentu setiap tahun. Tentu, kita juga harus mengajukan tuntutan tanggung jawab yang sangat tinggi terhadap perusahaan-perusahaan tertentu, menuntut mereka bertindak dengan cermat. Selanjutnya, *** kita mungkin akhirnya memerlukan organisasi serupa Badan Tenaga Atom Internasional (IAEA) untuk mengawasi upaya kecerdasan super. Setiap upaya yang melebihi ambang batas kemampuan tertentu (atau sumber daya komputasi, dll.) harus diawasi oleh otoritas internasional yang dapat memeriksa sistem, meminta audit, menguji kepatuhan terhadap standar keamanan, dan membatasi tingkat implementasi dan tingkat keamanan.*** Pelacakan perhitungan dan penggunaan energi dapat memiliki dampak yang besar dan memberi kami harapan dalam kemampuan implementasi ide ini. Sebagai langkah pertama, perusahaan dapat dengan sukarela setuju untuk mulai menerapkan beberapa elemen yang mungkin diminta oleh lembaga tersebut di masa depan, sebagai langkah kedua, negara-negara individual dapat menerapkan kerangka kerja lembaga ini. Institusi semacam ini harus fokus pada risiko kelangsungan hidup Drop potensial, bukan masalah yang seharusnya ditangani oleh negara-negara individual, seperti mendefinisikan konten yang diizinkan untuk diekspresikan oleh kecerdasan buatan. Ketiga, kita perlu memiliki kemampuan teknis untuk memastikan keamanan AI super. Ini adalah masalah penelitian terbuka, dan kami serta orang lain sedang melakukan banyak upaya. Kami percaya bahwa penting untuk memungkinkan perusahaan dan proyek Sumber Terbuka mengembangkan model di bawah ambang batas kemampuan yang signifikan tanpa peraturan yang seperti yang dijelaskan di sini (termasuk mekanisme lisensi atau audit yang rumit). 不在范围内的内容 Sistem saat ini akan menciptakan nilai yang besar bagi dunia, meskipun memang ada risiko yang terkait, tingkat risiko ini sebanding dengan teknologi internet lainnya dan langkah-langkah masyarakat untuk menghadapinya tampaknya sudah tepat. Dalam perbandingan, sistem yang kita ikuti akan memiliki kemampuan yang melebihi teknologi saat ini, oleh karena itu kita harus berhati-hati agar tidak melemahkan ikuti terhadap sistem-sistem ini dengan menerapkan standar yang serupa pada teknologi yang jauh di bawah ambang batas ini. Partisipasi Publik dan Dampak Potensial Namun, untuk tata kelola sistem yang paling kuat dan keputusan yang melibatkan implementasinya, pengawasan publik yang kuat diperlukan. Kami percaya bahwa masyarakat global seharusnya dapat menentukan batas dan pengaturan default sistem kecerdasan buatan secara demokratis. Meskipun kita belum yakin bagaimana merancang mekanisme ini, kami berencana untuk melakukan eksperimen untuk mendorong perkembangannya. Dalam batas yang luas, kami masih berpendapat bahwa pengguna individu harus memiliki kendali yang besar atas perilaku sistem kecerdasan buatan yang mereka gunakan. Dengan mempertimbangkan risiko dan kesulitan, penting bagi kita untuk mempertanyakan mengapa teknologi ini perlu dikembangkan. Di OpenAI, kami memiliki dua alasan utama. Pertama, kami percaya bahwa teknologi ini akan membawa masa depan yang lebih baik daripada yang kita bisa bayangkan hari ini (kita telah melihat beberapa contoh awal di bidang pendidikan, pekerjaan kreatif, dan produktivitas pribadi). Dunia menghadapi banyak masalah dan kita membutuhkan lebih banyak bantuan untuk menyelesaikan masalah ini. Teknologi ini dapat meningkatkan masyarakat kita dan kemampuan kreatif setiap orang yang menggunakan alat baru ini pasti akan membuat kita terkejut. Peningkatan ekonomi dan kualitas hidup akan menakjubkan. Selanjutnya, kami percaya bahwa menghentikan penciptaan kecerdasan super secara intuitif merupakan tugas yang berisiko dan sulit. Karena manfaat yang sangat besar yang dibawa oleh kecerdasan super, biaya pembangunan setiap tahunnya turun, jumlah peserta yang membangun juga meningkat dengan cepat, dan pada dasarnya itu adalah bagian dari perkembangan teknologi kita. Untuk menghentikan perkembangannya, diperlukan langkah-langkah seperti sistem pengawasan global, tetapi bahkan dengan mengambil langkah-langkah tersebut, tidak dapat menjamin keberhasilan. Oleh karena itu, kita harus melakukan dengan benar.

Jalan Menuju AGI di sini nilainya diubah menjadi kognitif dan sumber daya, menemukan individu super AGI yang sejalan, dan dengan demikian membangun komunitas kerjasama dan kolaborasi AGI berbasis pola DAO. Berbagi dan menafsirkan makalah AI terkemuka, membantu Anda membangun keunggulan dalam menilai tren teknologi terkini beberapa bulan lebih awal dari orang lain, dan kesempatan untuk bergabung dalam sesi tanya jawab AI serta kemungkinan kerjasama dengan penulis makalah. 2, Berbagi sumber informasi berkualitas di sini, serta mengeksplorasi bagaimana sumber informasi berkualitas dapat membantu karier pribadi, membangun basis pengetahuan yang berkelanjutan jangka panjang; (misalnya Arbitrase pengetahuan komunitas berbahasa Tionghoa-Inggris) 3, Analisis strategi pengembangan individu dan perusahaan dalam era AGI dan Web3, konsolidasi dasar dan strategi pengembangan leverage.

• Program co-founder akan segera diluncurkan;