Ero sivun ”Ollama” versioiden välillä
Siirry navigaatioon
Siirry hakuun
Ei muokkausyhteenvetoa |
Ei muokkausyhteenvetoa |
||
| Rivi 17: | Rivi 17: | ||
| lähdekoodi = | | lähdekoodi = | ||
}} | }} | ||
'''Ollama''' on ohjelmisto, joka | '''Ollama''' on avoimen lähdekoodin ohjelmisto, joka on suunniteltu suurten kielimallien ([[LLM]], Large Language Model) ajamiseen suoraan käyttäjän omalla tietokoneella (paikallisesti) ilman erillistä palvelininfrastruktuuria. | ||
Sovellus on saatavilla Linuxille, macOS:lle ja Windowsille. Se tarjoaa helppokäyttöisen komentorivikäyttöliittymän (CLI) ja tausta-ajona toimivan palvelun. | |||
== Keskeiset hyödyt == | |||
Ollaman suosio perustuu sen tarjoamiin etuihin verrattuna pilvipohjaisiin ratkaisuihin. | |||
* Yksityisyys ja Turvallisuus: Malli ajetaan ja data käsitellään omalla laitteella, mikä varmistaa paremman tietosuojan, sillä tieto ei siirry ulkopuolisille palvelimille. | |||
* Suorituskyky: Mallien ajaminen paikallisesti voi tarjota paremman suorituskyvyn (matalamman viiveen) kuin pilvipohjaiset järjestelmät. | |||
* Kustomointi: Mahdollistaa omien, räätälöityjen mallien luomisen ja olemassa olevien mallien hienosäädön (adapteripohjainen hienosäätö) Modelfile-tiedoston avulla. | |||
* Integraatio: Tarjoaa helpon API-integraation kehittäjille. | |||
== | == Tuetut mallit == | ||
Ollama tukee useita suosittuja avoimen lähdekoodin kielimalleja, joita käyttäjä voi ladata ja ajaa yhdellä komennolla: | |||
''ollama run [mallin nimi]'' | |||
* Llama 2 ja Llama 3 (Meta) | |||
* Mistral | |||
* Gemma (Google) | |||
* Code Llama | |||
* Phi-2 | |||
* Sekä useita muita, pienempiä ja erikoistuneempia malleja. | |||
* Se parantaa yksityisyyttä ja turvallisuutta, koska mallit ja tietosi pysyvät omalla laitteellasi. Se tarjoaa myös helpon tavan integroida malleja sovelluksiin API:n kautta. | * Se parantaa yksityisyyttä ja turvallisuutta, koska mallit ja tietosi pysyvät omalla laitteellasi. Se tarjoaa myös helpon tavan integroida malleja sovelluksiin API:n kautta. | ||
* Se on saatavilla Linuxille, macOS:lle ja Windowsille. | * Se on saatavilla Linuxille, macOS:lle ja Windowsille. | ||