Ramalan Epoch AI: Dalam waktu setahun, laju model inferensi akan melambat.

Pada 14 Mei, Epoch AI, sebuah lembaga penelitian AI nirlaba, merilis laporan terbaru, menunjukkan bahwa sulit bagi perusahaan AI untuk terus memeras keuntungan kinerja yang besar dari model inferensi, dan kemajuan model inferensi akan melambat dalam waktu satu tahun paling cepat. Berdasarkan data dan asumsi yang tersedia untuk umum, laporan tersebut menyoroti kendala sumber daya komputasi dan peningkatan overhead penelitian. Industri AI telah lama mengandalkan model ini untuk meningkatkan kinerja tolok ukur, tetapi ketergantungan ini sedang ditantang. Josh You, seorang analis di agensi tersebut, menunjukkan bahwa munculnya model inferensi berasal dari kinerja mereka yang sangat baik pada tugas-tugas tertentu. Model O3 OpenAI, misalnya, telah berfokus pada peningkatan keterampilan matematika dan pemrograman dalam beberapa bulan terakhir. Model inferensi ini meningkatkan kinerja dengan menambahkan sumber daya komputasi untuk memecahkan masalah, tetapi dengan mengorbankan lebih banyak komputasi untuk menangani tugas-tugas yang kompleks, model inferensi ini membutuhkan waktu lebih lama daripada model tradisional.