AI-modellen hebben soms een welhaast mythische status. Je kunt er heel veel mee, maar het is geen sinecure om ze te bouwen en in te zetten. Als het aan SAS ligt, is dat helemaal niet nodig. Lees in dit artikel hoe het dat wil bewerkstelligen.
Organisaties die met AI aan de slag willen, hebben het niet altijd even gemakkelijk. De voordelen van AI zijn vaak best duidelijk, maar hoe ga je ermee aan de slag? Zelf bouwen kan een brug te ver zijn voor veel organisaties, vanwege de complexiteit die het met zich meebrengt. Ze hebben simpelweg niet de middelen en/of de expertise in huis om dit te kunnen doen. Toch willen ze ermee aan de slag.
Een oplossing voor dit probleem zou zijn om gewoon ergens AI-modellen af te nemen die organisaties meteen in kunnen zetten. Een andere is om de drempel voor het ontwikkelen van AI-modellen significant te verlagen. Voor beide benaderingen heeft SAS updates aangekondigd tijdens SAS Innovate, dat deze week plaatsvindt in Las Vegas.
Allereerst is er de algemene beschikbaarheid van SAS Viya Workbench voor de ontwikkeling van AI-modellen. Een tweede nieuwtje is dat het bedrijf een serie lichtgewicht AI-modellen op de markt gaat brengen die zijn gericht op specifieke industrieën. Zo hoopt het de drempel om met AI-modellen aan de slag te gaan weer iets verder te verlagen. Tot slot is er – uiteraard – ook de nodige aandacht voor generatieve AI (GenAI).
SAS Viya Workbench
SAS Viya Workbench is niet nieuw. We schreven hier afgelopen september al over, toen dit werd gelanceerd. Het nieuws van vandaag is vooral dat het nu ook algemeen beschikbaar is. Het is onderdeel van het overkoepelende SAS Viya data- en AI-platform en is er specifiek op gericht om ontwikkelaars en AI-modellers een relatief eenvoudige manier te geven om AI-modellen te bouwen. Het is een self-service omgeving met schaalbare compute (CPU/GPU) op basis van de wensen en eisen binnen een specifiek project. Binnen deze omgeving is het mogelijk om data prep, analyse en de daadwerkelijke ontwikkeling van analytics- en AI-modellen te doen.
Lichtgewicht is ook hier weer het thema, zoals we dat ook al hebben aangegeven bij de ‘voorverpakte’ modellen (waar we hieronder nog op terugkomen). Het moet gebruikers in staat stellen om de productiviteit te verhogen en de prestaties van de modellen uiteindelijk ook te verbeteren. Deze gebruikers (de ontwikkelaars en modelers) kunnen binnen deze omgeving in verschillende talen aan de slag. In eerste instantie is dat beperkt tot de SAS-taal en Python, maar R zal tegen het einde van dit jaar ook beschikbaar zijn. Als IDE is er de keuze uit Jupyter Notebook/JupyterLab en Visual Studio Code.
Verder maakt Viya Workbench gebruik van de PROCs van SAS. Dit zijn procedures voor (statistische) analyse van alle data in SAS datasets. Deze procedures kunnen ervoor zorgen voor het herschikken van data, maar ook voor het bieden van allerlei inzichten in de vorm van tabellen, grafieken en rapporten. Daarnaast zijn er gezien de optie om in Python te programmeren native Python API’s beschikbaar en zijn er speciaal voor Viya Workbench ontwikkelde Python libraries beschikbaar. Deze wijken niet enorm veel af van wat de ontwikkelaars gewend zijn, maar zorgen volgens SAS wel voor een significante sprongin snelheid en prestaties.
SAS Viya Workbench komt is in het tweede kwartaal van dit jaar beschikbaar via de AWS Marketplace van Amazon. Er zijn plannen om het in de toekomst ook op andere clouds beschikbaar te maken en er komt ook een SaaS-versie van Viya Workbench.
Industrie-specifieke voorverpakte AI-modellen
Zoals al aangegeven, niet iedere organisatie heeft voldoende middelen en expertise om zelf AI-modellen te bouwen. Dit terwijl er ook voor die organisaties duidelijke prestatieverbeteringen mogelijk zijn als ze AI inzetten. Voor dat soort organisaties heeft SAS tijdens Innovate goed nieuws. Het introduceert vandaag een nieuwe lijn producten/diensten waarmee het mogelijk moet worden om snel en gericht aan de slag te gaan met AI. Het gaat hier om wat SAS zelf packaged AI-modellen noemt, wat we voor het gemak maar hebben vertaald als voorverpakte AI-modellen. Dit zijn modellen die min of meer ‘af-fabriek’ uitgerold kunnen worden.
Dit soort voorverpakte modellen zijn vanzelfsprekend niet geschikt voor algemene omgevingen. Dat is al niet echt mogelijk met LLM’s, laat staan met het soort AI wat deze modellen bieden. De voorverpakte AI-modellen zijn gericht op specifieke use-cases in specifieke industrieën. SAS kondigt vandaag ook meteen het eerste voorverpakte AI-model aan. Deze gaat door het leven onder de naam AI assistant for warehouse space optimization.
De naam van dit eerste AI-model geeft twee dingen aan met betrekking tot dit nieuwe aanbod van SAS. Ten eerste is het echt heel specifiek. Het is geen model voor het optimaliseren van het gebruik van ruimte in het algemeen, maar specifiek gericht op magazijnen. Ten tweede kun je eruit opmaken dat het een assistent is voor iemand anders. Aangezien de meeste magazijnmedewerkers waarschijnlijk geen achtergrond hebben in data science, betekent dit dat het laagdrempelige, lichtgewicht modellen zijn die geschikt zijn voor mensen zonder technische bagage.
Meer algemeen zien we de aankondiging van de voorverpakte AI-modellen van SAS als een belangrijke trend voor de AI-industrie als geheel. AI is (gelukkig) voorbij de grote hype van 2023 en komt weer in wat meer realistisch en praktisch vaarwater. Dat zagen we eerder deze week ook al bij Appian, die ook een aantal zeer pragmatische en verstandige AI-toevoegingen hebben gedaan aan hun platform. SAS doet dit met de voorverpakte AI-modellen ook. Dat is een uitstekende zaak wat ons betreft, want zo kunnen ook organisaties die het niet allemaal zelf kunnen bouwen of laten bouwen ermee aan de slag.
GenAI in SAS Viya
We kunnen geen artikel schrijven in 2024 zonder het over generatieve AI (GenAI) te hebben. SAS legt hier vanzelfsprekend ook veel nadruk op tijdens SAS Innovate. Wederom ligt de nadruk vooral op de pragmatische benadering, die ontwikkelaars nuttige GenAI-toevoegingen moet bieden aan de applicaties die ze bouwen, voor verschillende industrieën.
Er zijn meerdere onderdelen waar SAS de nadruk op legt op het gebied van GenAI. Zo is het mogelijk om externe LLM’s in te zetten om de mogelijkheden die deze bieden toe te voegen aan een applicatie. Daarnaast is er een private preview van Viya Copilot beschikbaar. Dit doet wat iedere Copilot doet. Het helpt ontwikkelaars bij het uitvoeren van hun werk. Interessant is verder ook dat het mogelijk is om een eigen Copilot te bouwen, voor de specifieke industrie waarin een organisatie actief is. Dit alles met de garantie dat data nooit uit de eigen omgeving gaat, ongeacht welke LLM’s je gebruikt.
Een derde onderdeel heeft te maken met het soort data dat gebruikt wordt voor GenAI-toepassingen. Real-world data niet altijd betrouwbaar of voldoende. Vandaar dat SAS de nadruk legt op het toevoegen van synthetische data aan de real-world data. SAS Data Maker is een nieuw product dat SAS heeft ontwikkeld rondom synthetische data. Dit is een no-code/low-code platform dat je kunt gebruiken om ervoor te zorgen dat GenAI altijd de juiste data tot zijn beschikking heeft. Het is vanaf vandaag in private preview.
Tot slot: voedingslabels voor AI
AI-modellen kunnen bouwen en inzetten is een, dit op een verantwoorde manier doen is echter ook erg belangrijk. De ethische kant van AI krijgt van oudsher behoorlijk wat aandacht bij SAS. Dat is ook nu zeker nog het geval. Sterker nog, het kondigt vandaag zogeheten model cards aan. Dit kun je het beste zien als voedingslabels zoals je die ook op verpakkingen van voeding tegenkomt. Model cards geven je in een oogopslag inzicht in hoe goed een specifiek model is voor je organisatie.
Model cards worden zodra ze beschikbaar zijn een onderdeel van SAS Viya. Het idee is dat er voor modellen die gebruikmaken van inhoud afkomstig uit producten van SAS automatisch een model card gegenereerd wordt. Ook voor open source modellen komen deze voedingslabels beschikbaar. Dit vanwege het feit dat het binnen SAS Viya ook mogelijk is om open source modellen te beheren. Dat maakt ze ook meteen geschikt voor het genereren van model cards. In eerste instantie zal deze nieuwe functionaliteit beschikbaar zijn voor Python-modellen.
Model cards geven inzicht in allerlei indicatoren die iets zeggen over hoe ‘gezond’ een model is voor je. Denk hierbij aan accuraatheid, eerlijkheid en drift. Je ziet ook meteen allerlei zaken rondom governance, zoals wanneer het model voor het laatst is aangepast. Ook zie je wie verantwoordelijk is voor het model. Dit geeft organisaties inzicht in hoe ze eventuele problemen intern kunnen aanpakken. Verder kun je via de model card zien waar een model voor is ontwikkeld en of het is gebruikt voor use-cases die niet binnen de scope liggen. Ook geeft het inzicht in de beperkingen van het model.
Model cards moeten leiden tot meer transparantie en dus ook een betere betrouwbaarheid van en vertrouwen in de modellen. Dat is uiteindelijk cruciaal als het gaat om AI. Je kunt nog zulke mooie modellen en use-cases bedenken, als het vertrouwen er niet is (terecht of niet), heb je er nog niet veel aan.