Short description
I vår utvikling av AI-verktøy trenger vi en maskin som kan kjøre Whisper-modeller på en effektiv måte.
Etter en omstendig benchmarking har vi funnet ut at Nvidia RTX 4090 er skjermkortet som kan transkribere flest sekunder pr. sekund, utover H100,
som både er vanskelig å få tak i og i et prissjikte som ikke kan rettferdiggjøre ytelsesforskjellen for denne applikasjonen (omtrent 10% speedup).
NRK er derfor interessert i to maskiner konfigurert med minst 3x RTX 4090 i hver maskin. Ideelt sett 4x RTX 4090.
Skjermkort som A4000, A5000 og A6000 Ada har langt lavere ytelse enn RTX 4090 for denne applikasjonen, og er av den grunn ikke aktuelle for formålet.»
NRK ønsker tilbud på dette / tilsvarende teknologi. Leverandører som tilbyr tilsvarende må kunne dokumentere at dette gir samme ytelse.