Nyhetsbrev mai 2024 - Lokale språkmodeller og Chatbots

Av

Hans Martin Cramer
May 2, 2024

👋 Hei! Dette er en teaser på nyhetsbrevene våre. Hvis du ikke allerede er fast abonnent kan du melde deg på her!

Endelig er sommeren her 😎

Vi i Oschlo synes denne vinteren varte litt i lengste laget og derfor er vi nå ekstra glade for at termometeret er over på behagelige tall. Men vi har ikke ligget på latsiden i mens kulda klorte seg fast - vi har dykket enda lenger ned i AI-feltet både med nye verktøy, nye språkmodeller og ikke minst eksperimentering med nye open-source verktøy. Og ekstra spennende er det at det begynner å dukke opp endel språkmodeller som er trent på norsk også! Både Nora-initativet, Nasjonalbiblioteket og private aktører har lansert modeller de siste månedene og det lover godt for at vi også kan skape bedre innhold på Norsk.  

I dette nyhetsbrevet gir vi deg et lite innblikk i hva vi jobber med om dagen og hvordan du kan bli med på reisen. Helt nederst i nyhetsbrevet finner du også noen linker til spennende prosjekter og språkmodeller.

💡 Har du lyst til å bli bedre kjent med Oschlo? Book et møte med oss her!

Lag din helt egen ChatGPT

Veldig mange har forsøkt ChatGPT i løpet av det siste året, men visste du at det finnes et hav av andre språkmodeller der ute? Og at mange av de utrolig nok er helt gratis å ta i bruk? Og at du kan kjøre det lokalt på datamaskinen din uten at dine data blir spredd over alle vinder?

For de aller fleste er det ganske gresk når man snakker om å kjøre språkmodeller lokalt på datamaskinen. Men det er faktisk veldig enkelt! Det aller enkleste er å installere et program som heter Ollama.

Ollama gir deg muligheten til å laste ned modeller og chatte med de ulike modellene. Selve installasjonen er veldig enkel, men når du skal snakke med modellene må du nok belage deg på å bruke terminalen (mac) eller kommandolinjen (windows). Det kan virke litt skummelt, men det er bare i begynnelsen. Snart er du en ekspert!

En ting som er viktig å huske på her er at store modeller krever også veldig mye av maskinen din. Dermed kan det være lurt å forsøke seg først på små modeller som f.eks. Phi3 først før du avanserer til større modeller som Llama3.

Chat grensesnitt

Det begynner også å bli en stor skog av grensesnitt som snakker med Ollama og som du kan sette opp og bruke. De fleste av disse gir deg et mye enklere og mer oversiktlig måte å bruke språkmodellene på. Noen av disse er enkle applikasjoner som man laster ned på datamaskinen eller telefonen, mens andre er litt mer omfattende.

På bildet under ser du Open WebUI som har et veldig gjenkjennelig grensesnitt. Dette krever en litt mer omfattende installasjonsprosess, men fordelen er at man kan lage flere brukere og dermed dele ting internt i en bedrift.

Store muligheter for selskaper

Å kjøre modeller lokalt gir store muligheter for både enkeltpersoner og selskaper. Ikke bare kan man kontrollere hvilke modeller man kjører, men man kan dele prompts, lage boter og agenter - alt uten at data forsvinner ut til andre aktører.

Nysgjerrig på mer?

Hvis du er nysgjerring på å kjøre språkmodeller lokalt eller har lyst til å dykke ned i hvordan du kan bruke språkmodeller for å automatisere prosesser i din bedrift så står vi i Oschlo klare for å hjelpe deg! Vi har bygget opp dyp kompetanse på området og er mer enn villige til å dele den kunnskapen med våre gode kunder! Book en prat med oss her 🤖

🤖 Lære mer om å kjøre språkmodeller lokalt? Book et møte med oss her!

Chatbots overalt!!

Har du snust litt på om du skal få deg en chatbot på nettsiden din? Det er enklere en noen sinne!

I denne artikkelen har vi samlet tre enkle verktøy hvor du selv kan bygge chatbots for å eksperimentere på en enkel og kostnadseffektiv måte - enten du er nybegynner eller ønsker å ta i bruk mer avanserte muligheter.

Og husk! Hvis du trenger litt hjelp for å komme i gang er vi i Oschlo klare for å hjelpe ❤️

🤖 Har du en ide til en chatbot? Book et møte med oss her!

Nyttige lenker

  • Nora.ai er et norsk samarbeid mellom universiteter og institutter innenfor AI, maskinlæring og robotikk. For et par uker siden lanserte de nye språkmodeller på norsk som er bygget på Mistral.
  • Nasjonalbiblioteket har en egen AI-lab og for en tid tilbake lanserte de en norsk versjon av Whisper. Whisper er en modell for automatisk språkgjenkjenning. Med andre ord kan du snakke til maskinen på norsk og den kan transkribere det du sier. Modellene kan du finne her og der ser du også en fin videodemonstrasjon.
  • Et hett tips dersom du ønsker å teste whispermodellen fra Nasjonalbiblioteket er dette verktøyet som VG har lansert. Jojo transkriberer lyd- og videofiler på over 100 språk. Mest interessant for oss er at den har integrert den nyeste norske modellen. Verktøyet er kun tilgjengelig for OSX på Mac for nå.

Vi håper dette nyhetsbrevet var nyttig! Del gjerne nyhetsbrevet videre til andre dere tenker kan ha nytte av det og gi oss gjerne en tilbakemelding på innhold dere ønsker å høre mer om i tiden fremover.

Det var alt for denne gangen. Vi høres snart igjen!

❤️ Oschlo

Hans Martin Cramer

Hans Martin har 20 års erfaring innenfor produktledelse og -utvikling, etablere og skalere produktorganisasjoner, platform product management, markedsanalyse og forretningsutvikling i Oda, Schibsted, TNS Gallup og Opinion. Utdannet master i medievitenskap fra Universitetet i Oslo.

La oss ta en kaffe

Takk for din henvendelse. Vi vil kontakte deg snart.
Oops! Something went wrong while submitting the form.

Eller vil du jobbe i Oschlo?

Vi er alltid på jakt etter smarte hoder! Send oss en søknad, spørsmål eller bare en melding så tar vi en kaffeprat!