Ahjo vai Aitta?

CSC tarjoaa kahta inferenssipalvelua avoimille suurille kielimalleille, ja kummallakin on OpenAI-yhteensopiva rajapinta.

Ahjo

Ahjo on tarkoitettu tuotantokäyttöön. Se tarjoaa muutamaa valikoitua mallia omassa suoritusympäristössään, pitää ne jatkuvasti käynnissä ja tavoittelee ennustettavaa suorituskykyä palvelutasokiintiöiden avulla. Ahjo on maksullinen palvelu, ja sitä saa toistaiseksi käyttöön vain sopimuksella.

Sopimuksesta voit kysyä osoitteesta servicedesk@csc.fi.

Aitta

Aitta on tarkoitettu tutkimukseen ja on maksuton akateemisessa käytössä. Se tarjoaa laajan mallikirjaston CSC:n jaetuilla HPC-järjestelmillä ja käynnistää kullekin mallille oman työn. Aitta on tällä hetkellä käytettävissä kaikille, joilla on LUMI-projekti.

Ahjo	Aitta
Tuotantokäyttöön	Tutkimukseen
Muutama hyvä malli	Laaja mallikirjasto
Maksullinen, sopimuksella	Maksuton akateemisessa käytössä
Toimii omassa suoritusympäristössään	Toimii jaetulla HPC-laitteistolla
Mallit ovat jatkuvasti käynnissä	Kullekin mallille käynnistetään oma työ
Tavoittelee ennustettavaa suorituskykyä palvelutasokiintiöiden avulla	Ei tokenkiintiöitä