Ydelse · Kunstig intelligens

AI-infrastruktur i skyen

Til virksomheder, hvor data ikke må sendes til en offentlig AI-tjeneste: sundhed, økonomi, offentlig sektor og virksomheder med værdifuld viden. Vi bygger et lukket miljø i jeres egen cloud-konto i en EU-region, hvor modellen kører, og hvor data bliver. I køber ikke hardware, og vi opsætter og drifter det hele på afstand.

Send en forespørgsel Hvad er med

EU-region

data bliver i EU

GPU-instanser

dimensioneret efter modellen

Datalager

til jeres datasæt

Betal for brug

skalér op og ned

Det indeholder ydelsen

Behovene er vidt forskellige: at køre en færdig model og at træne sin egen er to helt forskellige budgetter.

Drøft omfanget

Dimensionering

Hvilken GPU-type og hvor meget grafikhukommelse modellen kræver, og om on-demand, reserveret eller spot-kapacitet passer bedst.

Deployment

Open source-modeller eller administrerede modeltjenester sat op i jeres egen konto i en EU-region, uden at data deles med udbyderen til træning.

Datalager

Objektlager og vektordatabase til dokumenter og træningsdata, med versionering, kryptering og backup.

Isolering

Privat netværk uden offentlig adgang, adgangsstyring via Entra ID, logning af alle kald.

Overvågning og økonomi

GPU-udnyttelse, svartider, kø og løbende budgetalarmer, så en glemt instans ikke koster en formue.

Dokumentation

Beskrivelse af dataflow og placering til jeres GDPR-dokumentation og til kravene i AI-forordningen.

Sådan forløber det

En færdig model kan køre i skyen på få dage. Et miljø til finjustering eller træning tager nogle uger, afhængigt af datamængden og kvoter hos cloududbyderen.

Krav

Hvilken model og størrelse, hvor mange forespørgsler, og om der skal finjusteres på egne data.

Beregning

Arkitektur og månedligt budget med en ærlig sammenligning af cloududbydere og prismodeller.

Opsætning

Vi bygger miljøet som kode, deployer modellen og kobler den på jeres systemer.

Overdragelse

Dokumentation, overvågning og gennemgang for jeres IT-ansvarlige, eller løbende drift hos os.

GPU-hardware forældes hurtigere end almindelige servere. Nye generationer kommer hvert andet år, og det, man køber i dag, er markant langsommere end det nyeste om tre år. Derfor lejer vi kapaciteten i skyen: I skifter til nyere GPU'er med en konfigurationsændring og betaler kun for den tid, modellen faktisk kører.

Spørgsmål og svar

Jo, hvis data ikke er følsomme, og der findes en erhvervsaftale med databehandling i EU. Et eget miljø giver mening, når oplysningerne af juridiske eller forretningsmæssige grunde ikke må forlade jeres kontrol.

Det afgøres af modellens størrelse: den skal kunne ligge i grafikhukommelsen, så det er det tal, man først kigger på. Til almindelige tekstopgaver rækker en mellemklasse-GPU, og det dyreste er sjældent nødvendigt.

Til resumé af dokumenter, søgning i en vidensbase, klassificering af henvendelser og hjælp til korrespondance som regel ja. Ved kompliceret ræsonnement i flere trin er de største kommercielle modeller stadig stærkere. Test det på jeres egne data, før I binder jer.

Det afhænger af GPU-type og hvor mange timer modellen kører. Vi giver et månedligt skøn på forhånd, sætter budgetalarmer op og kan lukke instanserne ned uden for arbejdstid.

Mere inden for området

Se hele området

Ydelse AI-implementering Konkrete anvendelser med målbar gevinst, ikke eksperimenter Ydelse AI-strategi Køreplan, parathedsvurdering og styr på AI-forordningen Ydelse AI-kurser for medarbejdere Praktisk træning på jeres egne arbejdsopgaver

Lad os bygge jeres AI-miljø

Fortæl om opgaven og om de data, der ikke må forlade jeres kontrol. Vi foreslår en arkitektur i en EU-region og et månedligt budget.

E-mail
office@apply.dk

Vi arbejder
I hele Danmark via fjernadgang

Jeg accepterer, at Apply behandler mine oplysninger efter privatlivspolitikken