Lokale AI voor ondernemers in Almere.
Laat AI zoeken en samenvatten in uw eigen documenten, op apparatuur die u zelf beheert. Rebelics in Almere geeft daarover advies. We beginnen klein: met één taak en een proef waarvan we de omvang en de prijs vooraf afspreken.
Wat lokale AI in uw situatie betekent.
Wilt u medewerkers laten zoeken in een vaste verzameling interne documenten? In een proef testen we met uw voorbeeldvragen of de antwoorden bruikbaar zijn en hoe lang u erop moet wachten. Daarbij controleren we waar de gegevens worden verwerkt.
Bij AI zijn er drie plekken die ertoe doen: waar het programma draait waarin u werkt, waar uw documenten staan en waar het taalmodel uw tekst verwerkt. Bij lokale AI gebeurt ook die verwerking op apparatuur die u zelf beheert. Die drie lopen in de praktijk vaak door elkaar. Een AI-programma op uw eigen computer, of documenten op uw eigen NAS, zegt nog niets over waar het model uw tekst verwerkt. Veel programma’s sturen de tekst voor verwerking naar een externe modelleverancier. Daarom zoeken we voor elke opstelling uit welke gegevens waarheen gaan.
Een lokaal model is geen doel op zich. Het past bij taken met vertrouwelijke documenten, of als u niet afhankelijk wilt zijn van een externe dienst. Voor ander werk kan een clouddienst eenvoudiger en beter zijn. Dat wegen we samen af.
Wat we vooraf uitzoeken
- Taak: welk werk de AI moet doen, en hoe goed
- Documenten: welke, hoeveel en in welke vorm
- Verwerking: waar het taalmodel draait
- Logboeken: wat er wordt bijgehouden en wie het ziet
- Verbindingen: updates, diagnostische gegevens voor de maker van de software en een eventuele externe dienst als terugval
- Rechten: wie welke documenten via de AI mag doorzoeken
Welke taak en welke gegevens centraal staan.
Een goede eerste taak is klein en goed te beoordelen, bijvoorbeeld zoeken en samenvatten in een vaste set interne documenten. Met deze vragen bepalen we die taak.
- De taakWelke vraag een medewerker stelt, en met welk antwoord hij verder kan.
- De documentenWelke stukken de AI mag gebruiken, hoeveel het er zijn en in welk formaat ze staan.
- Goed genoegWanneer een antwoord bruikbaar is, en welke fouten niet mogen voorkomen.
- SnelheidHoe lang een medewerker op een antwoord wil wachten, en met hoeveel mensen tegelijk.
- De apparatuurWelke computers, servers of NAS er staan. Dat noteren we, ook als ze niet geschikt blijken.
- GevoeligheidWelke documenten nooit buiten de deur mogen, en welke wel.
Eigen apparatuur, eigen server elders of cloud.
Er zijn drie basisvormen, en soms een combinatie: een computer bij u op kantoor, een private omgeving (een server alleen voor uw bedrijf) of een model van een leverancier. Ze verschillen in waar uw gegevens heen gaan, wat het kost en wie het beheert.
Eigen hardware
Het model draait op een computer bij u op kantoor. Uw documenten hoeven voor de verwerking het pand niet uit; welke verbindingen er toch naar buiten gaan, controleren we in de proef. U investeert wel in apparatuur die krachtig genoeg is, en die moet worden beheerd.
Private omgeving
Het model draait op een server die alleen voor u is, buiten uw kantoor. Uw gegevens gaan dan naar die server, niet naar een gedeelde AI-dienst. Wie de server levert en beheert, staat in de afspraak.
Model van een leverancier
Het model draait bij een externe leverancier. Dat is vaak het snelst te starten en geeft toegang tot de grootste modellen. De tekst die u laat verwerken, gaat dan wel naar die leverancier.
Een combinatie
Soms draait het gewone werk lokaal en gaat een zware vraag naar een externe dienst. Dat gebeurt alleen als u dat vooraf hebt toegestaan, en dan voor de gegevens die we samen aanwijzen.
Eerst een kleine proef, met een vooraf afgesproken prijs.
Voordat u in hardware investeert, kijken we met één duidelijke opdracht of de taak lokaal goed genoeg gaat.
Intake
We kiezen de taak, de documenten en wanneer een antwoord goed is.
Proefdata
We werken met niet-gevoelige of geanonimiseerde documenten die op uw echte stukken lijken.
Echte vragen
Uw medewerkers stellen hun gewone vragen. We noteren kwaliteit en wachttijd.
Besluit
U ziet de uitkomst en beslist of en hoe u verder gaat.
Een kleine taak met een beperkt aantal documenten kan soms op bestaande apparatuur worden geprobeerd. Grotere modellen, veel documenten of meerdere gebruikers tegelijk vragen meer geheugen en rekenkracht. Een NAS kan documenten aanleveren. We beoordelen of uw bestaande apparatuur geschikt is; soms is een zwaardere computer nodig.
Blijkt in de proef dat de apparatuur te traag is, dan hoort u welke hardware nodig is en waarom, voordat u iets koopt.
Kosten en beheer na de proef.
De proef heeft een vooraf afgesproken omvang en prijs. Gaat u daarna door, dan bestaat het voorstel uit losse posten: de hardware, het inrichten, het koppelen van uw documenten en het beheer.
Beheer betekent: het model en de software bijwerken, controleren of alles draait, en bijstellen als de antwoorden minder goed worden of uw documenten veranderen. Voor zware, specialistische toepassingen, zoals een eigen zoekfunctie over een grote kennisbank, werken we samen met een vaste LLM-engineer, een specialist in taalmodellen. U houdt één aanspreekpunt.
Wat lokale AI u oplevert, ziet u in de proef met uw eigen taak.
Posten in het voorstel
- Proef: vaste omvang, vooraf afgesproken
- Hardware: eenmalig, alleen als het nodig is
- Inrichting: model, documenten en rechten
- Beheer: updates, controle en bijstellen
- Externe diensten: afhankelijk van de gekozen opzet, vooraf afgesproken
Over lokale AI in uw bedrijf.
Betekent een lokale installatie dat alle gegevens lokaal blijven?
Kan dit op mijn huidige computer of NAS?
Welke proef kunnen we eerst doen?
Wat is het verschil met een AI-agent?
Bespreek een lokale AI-proef.
Vertel ons welke taak u met AI wilt laten doen en met welke documenten. We bespreken eerst uw taak en bakenen de proef samen af; omvang en prijs spreken we vooraf af.
Alle diensten in Almere vindt u op ons overzicht voor Almere, ook AI-agenten, Synology-service en zakelijke back-up. Meer algemene uitleg vindt u bij AI-oplossingen op maat. Ook voor ondernemers in Den Haag: lokale AI in Den Haag.
