lokalne llm na wlasnym kompie zamiast chmury, ktos odpala i ma z tego pozytek

[tomek_dev]

kombinuje z odpaleniem modelu ai lokalnie u siebie zamiast wysylac wszystko do chmury, glownie przez firmowe dane ktorych nie chce wypuszczac na zewnatrz. mam kompa z sensowna karta ale nie wiem czy to jeszcze zabawka czy da sie tym realnie pracowac. ktos jedzie na lokalnym modelu do roboty czy to ciagle hobby?

[Bartek_Tech]

Tomek, u nas odpaliliśmy lokalny model z tego samego powodu, żeby wrażliwe dane nie szły na zewnątrz. Do prostych rzeczy jak streszczanie dokumentów czy pomoc przy mailach spokojnie wystarcza. Do trudnych chmura dalej lepsza. Ale gdzie liczy się prywatność, sprawdza się.

[tomek_dev]

dzieki, czyli mniej wiecej tak jak myslalem, do prostszych powtarzalnych rzeczy da rade a do ciezkich dalej chmura. dobry argument tez ze dane zostaja u mnie i mniej papierologii wokol rodo. biore sie za to na powaznie do wewnetrznych dokumentow.