Menurut Beating, tim Kaiming He dari MIT baru-baru ini merilis ELF (Embedded Language Flows), sebuah model difusi bahasa yang menyimpang dari pendekatan autoregresif “memprediksi token berikutnya” yang digunakan oleh model bergaya GPT. Sebagai gantinya, ELF melakukan generasi teks dalam ruang embedding kontinu, mengubahnya menjadi token diskrit hanya pada langkah terakhir.
Pada tolok ukur generasi tanpa kondisi OpenWebText, ELF-B dengan 105M parameter mencapai sekitar 24,1 perplexity generasi (Gen. PPL) dengan sampling 32 langkah, mengungguli berbagai baseline model bahasa difusi diskrit maupun kontinu. Yang menonjol, ELF-B hanya memerlukan kira-kira 45 miliar token pelatihan, sekitar satu orde besarnya lebih sedikit dibanding metode sebanding yang biasanya melampaui 500 miliar token.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
Artikel Terkait
Andrew Ng Menepis Krisis Pengangguran Akibat AI, Mengutip Tingkat Pengangguran AS 4,3% dan Perekrutan Kuat untuk Rekayasa Perangkat Lunak
Menurut Beating, Andrew Ng mengeluarkan pernyataan hari ini yang menolak klaim luas tentang pengangguran massal akibat AI, dengan menyebut narasi tersebut tidak didukung oleh data. Dengan merujuk pada bidang rekayasa perangkat lunak—bidang yang paling rentan terhadap agen pengodean AI—Ng mencatat bahwa perekrutan tetap kuat dan tingkat pengangguran AS saat ini berada pada angka yang sehat 4,3%. Ia memprediksi masa depan akan menghadirkan “AI jobapalooza” yang justru menciptakan lebih banyak peke
GateNews51menit yang lalu
Bursa Korea Menerapkan AI dalam Operasi Pasar Inti pada 13 Mei
Menurut The Chosun Daily, pada 13 Mei, Korea Exchange menerapkan AI dalam operasi pasar inti bersama Fair Labs, sebuah startup AI asal Korea Selatan yang dibelinya pada Februari. Kasus penggunaan pertama adalah sistem yang memindai berita lokal dan luar negeri untuk menemukan masalah keterbukaan pada perusahaan terdaftar yang dapat memicu penghentian perdagangan. Bursa juga berencana menggunakan AI untuk meninjau dokumen pengajuan saham dan mengotomatisasi sebagian pekerjaan klasifikasi industri
GateNews1jam yang lalu
Tesla Berencana Meluncurkan Produk AI Lebih Banyak untuk Tiongkok, Memanfaatkan 400+ Pemasok Lokal
Menurut China Daily, Tesla berencana menghadirkan lebih banyak produk AI dan cerdas ke Tiongkok, dengan Wakil Presiden Grace Tao menyoroti integrasi rantai pasok yang dalam perusahaan di negara tersebut. Per Maret 2026, Tesla bekerja sama dengan lebih dari 400 pemasok asal Tiongkok, lebih dari 60 di antaranya memasok jaringan globalnya, dengan pelokalan komponen di Shanghai Gigafactory melebihi 95%. Perusahaan mengoperasikan 588 toko yang dikelola langsung di 119 kota di Tiongkok daratan, diduku
GateNews2jam yang lalu
SoftBank Melaporkan Keuntungan Belum Direalisasi Senilai 45 Miliar Dolar dari Investasi OpenAI per Akhir Maret
Menurut ChainCatcher, SoftBank melaporkan keuntungan belum terealisasi kumulatif senilai 45 miliar dolar AS dari investasinya di OpenAI per akhir Maret. Pada April 2026, perusahaan menyalurkan pinjaman sebesar 20 miliar dolar AS terutama untuk investasi OpenAI, di mana 2,5 miliar dolar AS dilunasi pada bulan yang sama.
GateNews2jam yang lalu
Duta Besar Tiongkok Xie Feng Menyerukan Persaingan AI yang Sehat dengan AS Menjelang Kunjungan Trump
Menurut Kedutaan Besar AS di Tiongkok, Duta Besar Tiongkok untuk Amerika Serikat Xie Feng membahas hubungan AS-Tiongkok dan kunjungan mendatang Presiden Trump ke Tiongkok dalam sebuah wawancara dengan koresponden kebijakan diplomatik senior Newsweek Tom O'Connor, yang dirilis menjelang perjalanan tersebut.
GateNews2jam yang lalu
UE Membahas Bergabung dengan Aliansi Teknologi Pax Silica yang Didukung AS dalam Beberapa Pekan Mendatang
Menurut Bloomberg, Uni Eropa sedang dalam pembicaraan untuk bergabung dengan Pax Silica, aliansi yang didukung AS untuk semikonduktor, infrastruktur AI, mineral kritis, dan pusat data, sebagai bagian dari upaya mengurangi ketergantungan pada China. Komisi Eropa berencana mengirim pejabat senior ke AS dalam beberapa minggu mendatang untuk membahas ketentuan. Langkah ini muncul saat Swedia dan Finlandia telah lebih dulu bergabung dengan aliansi tersebut, dan Uni Eropa mencari dukungan dari Prancis
GateNews2jam yang lalu
