Microsoft Sumber Terbuka versi baru Phi-4: efisiensi inferensi naik 10 kali, dapat dijalankan di laptop

Data Jin10 10 Juli, pagi ini, Microsoft telah merilis versi terbaru dari keluarga Phi-4, Phi-4-mini-flash-reasoning, sebagai Sumber Terbuka di situs resmi mereka. Versi mini-flash mempertahankan karakteristik kecil namun berkinerja tinggi dari keluarga Phi-4, yang dirancang khusus untuk situasi yang dibatasi oleh Daya Komputasi, memori, dan latensi, dapat dijalankan dengan satu GPU, cocok untuk perangkat tepi seperti laptop dan tablet. Dibandingkan dengan versi sebelumnya, mini-flash menggunakan arsitektur inovatif SambaY yang dikembangkan oleh Microsoft, sehingga efisiensi inferensi naik 10 kali lipat, latensi rata-rata turun 2-3 kali, dan kinerja inferensi secara keseluruhan mengalami peningkatan yang signifikan.