IBM introduceert ‘Lightweight Engine’ voor WatsonX.ai-service

IBM heeft onlangs de ‘Lightweight Engine’ gelanceerd als onderdeel van zijn WatsonX.ai-service. Deze nieuwe functie zal zich in eerste instantie gaan richten op de grotere ondernemingen. Toch kan het ook een belangrijke rol spelen voor kleinere bedrijven die hun AI-capaciteiten willen opschalen, evenals middelgrote bedrijven in snelgroeiende sectoren zoals fintech.

Generatieve AI-markt drijvende kracht achter omzetgroei

Zonder twijfel is de generatieve AI-markt de drijvende kracht achter een groot deel van de omzetgroei van de technologiesector in de eerste helft van 2024. Zo’n 10 jaar geleden had bijna niemand de enorme groei van deze sector kunnen voorspellen, die vooral wordt aangestuurd door de populariteit van grote taalmodellen zoals ChatGPT van OpenAI en Claude van Anthropic.

Vóór de lancering van ChatGPT werd door experts in de AI- en financiële wereld breed aangenomen dat grote taalmodellen zoals GPT-3 niet betrouwbaar genoeg waren voor toepassingen in de financiële sector of andere domeinen waar fouten niet zijn toegestaan. Ondanks de vooruitgang die sindsdien is geboekt, blijft de waarschuwing dat AI-modellen die op openbare data zijn getraind, onvoorspelbaar kunnen zijn.

Een voorbeeld van de toepassing van generatieve AI in de financiële wereld is JPMorgan Chase, dat recent toegang tot OpenAI’s ChatGPT heeft aangeschaft voor zijn 60.000 medewerkers. Hierbij zijn interne data en aangepaste veiligheidsmaatregelen geïntegreerd. Dit illustreert dat zelfs de conservatieve financiële sector steeds meer gebruik maakt van generatieve AI.

Andere AI-diensten bieden inmiddels ook zakelijke opties aan

Alhoewel veel populaire AI-diensten, zoals ChatGPT, inmiddels ook zakelijke opties bieden, zijn deze doorgaans volledig cloudgebaseerd. In sectoren zoals fintech, waar regelgeving en veiligheid vereisen dat data geïsoleerd blijven van externe invloeden, voldoen cloudgebaseerde AI-oplossingen mogelijk niet altijd aan de eisen.

IBM’s WatsonX.ai biedt zowel cloudgebaseerde als on-premise oplossingen, en met de toevoeging van de ‘Lightweight Engine’ kunnen modellen nu ook lokaal worden uitgevoerd, met een kleinere voetafdruk.

Savio Rodrigues, IBM’s vice-president van ecosysteemtechniek en ontwikkelaarsbelangenbehartiging, legt uit: “Bedrijven die on-premise oplossingen willen toevoegen, zoeken naar het lichtste platform om hun generatieve AI-scenario’s uit te voeren, zonder onnodige verspilling van CPU’s of GPU’s. De lichtgewicht engine van WatsonX.ai maakt het mogelijk voor ISV’s en ontwikkelaars om GenAI-oplossingen voor ondernemingen te schalen en tegelijkertijd de kosten te optimaliseren.”

Flexibiliteit van dit systeem kan het verschil maken

In snelgroeiende sectoren zoals fintech, blockchain en crypto-leningen, waar externe AI-oplossingen niet altijd aan de strenge beveiligingsvereisten voldoen, kan de flexibiliteit van een hybride cloud- en on-premise oplossing het verschil maken tussen het intern ontwikkelen van modellen of het afnemen van een externe dienst.

Alhoewel er verschillende concurrerende diensten zijn, lijkt IBM’s ‘Lightweight Engine’ zijn naam eer aan te doen. De kleinere voetafdruk en grotere efficiëntie gaan echter gepaard met een vermindering van functies die wel beschikbaar zijn in de volledige versie.