Ero sivun ”Ollama” versioiden välillä
Siirry navigaatioon
Siirry hakuun
Ei muokkausyhteenvetoa |
Ei muokkausyhteenvetoa |
||
| (Yhtä välissä olevaa versiota samalta käyttäjältä ei näytetä) | |||
| Rivi 19: | Rivi 19: | ||
'''Ollama''' on avoimen lähdekoodin ohjelmisto, joka on suunniteltu suurten kielimallien ([[LLM]], Large Language Model) ajamiseen suoraan käyttäjän omalla tietokoneella (paikallisesti) ilman erillistä palvelininfrastruktuuria. | '''Ollama''' on avoimen lähdekoodin ohjelmisto, joka on suunniteltu suurten kielimallien ([[LLM]], Large Language Model) ajamiseen suoraan käyttäjän omalla tietokoneella (paikallisesti) ilman erillistä palvelininfrastruktuuria. | ||
Sovellus on saatavilla Linuxille, macOS:lle ja Windowsille. Se tarjoaa helppokäyttöisen komentorivikäyttöliittymän (CLI) ja tausta-ajona toimivan palvelun. | Sovellus on saatavilla Linuxille, macOS:lle ja Windowsille. Se tarjoaa helppokäyttöisen komentorivikäyttöliittymän (CLI) ja tausta-ajona toimivan palvelun. Vaikka Ollama toimii suorittimella (CPU), se hyödyntää optimaalisesti GPU-kiihdytystä (erityisesti NVIDIA:n CUDA:a tai AMD:n ROCia. | ||
== Keskeiset hyödyt == | == Keskeiset hyödyt == | ||
| Rivi 39: | Rivi 39: | ||
* Phi-2 | * Phi-2 | ||
* Sekä useita muita, pienempiä ja erikoistuneempia malleja. | * Sekä useita muita, pienempiä ja erikoistuneempia malleja. | ||
Se parantaa yksityisyyttä ja turvallisuutta, koska mallit ja tietosi pysyvät omalla laitteellasi. Se tarjoaa myös helpon tavan integroida malleja sovelluksiin API:n kautta. | |||
* Se on saatavilla Linuxille, macOS:lle ja Windowsille. | * Se on saatavilla Linuxille, macOS:lle ja Windowsille. | ||
* Sen perusidea on tehdä paikallisten kielimallien käyttö mahdollisimman yksinkertaiseksi niin kehittäjille kuin harrastajillekin. | * Sen perusidea on tehdä paikallisten kielimallien käyttö mahdollisimman yksinkertaiseksi niin kehittäjille kuin harrastajillekin. | ||