Taalmodel

Een groot taalmodel of large language model (afgekort tot LLM) is een type kunstmatige intelligentie dat menselijke teksten in verschillende talen kan begrijpen en genereren met behulp van machinaal leren. Na het trainen en testen kan een tekstgenerator zelfstandig via kansverdeling een reeks woorden voorstellen om de juiste aanvulling trachten te voorspellen, of kan een AI-chatbot de vraag correct interpreteren en vervolgens ook een unieke onbestaande tekst als antwoord genereren.

Werking

Gegeven een reeks woorden van lengte kent een taalmodel een kans toe aan de hele reeks. Taalmodellen genereren die waarschijnlijkheden door te trainen op tekstverzamelingen in één of meerdere talen. Aangezien talen kunnen worden gebruikt om een oneindige verscheidenheid aan geldige zinnen uit te drukken (de eigenschap van digitale oneindigheid), moet taalmodellering ook niet-nulwaarschijnlijkheden toekennen aan taalkundig geldige reeksen die wellicht nooit in de trainingsdata voorkomen. Er zijn verschillende modelleerbenaderingen ontworpen om dit probleem op te lossen, zoals de toepassing van de Markov-eigenschap, of het gebruik van neurale architecturen zoals recurrente neurale netwerken of het transformer-model.

Toepassingen

Taalmodellen zijn nuttig voor verschillende problemen in de computationele taalkunde, van initiële toepassingen in spraakherkenning om ervoor te zorgen dat onzinnige (d.w.z. onwaarschijnlijke) woordsequenties niet worden voorspeld, tot breder gebruik in computervertalingen (bv. ontwerpvertalingen vergelijken), natuurlijke taalgeneratie (genereren van tekst zoals die door mensen wordt gesproken), zoals in een geavanceerde chatbot, part-of-speech tagging, parsing, optische tekenherkenning, handschriftherkenning, grammatica-inductie, information retrieval, en andere toepassingen.

Open source

Vele modellen zijn wel publiek te gebruiken, maar de code en datasets zijn meestal niet publiek toegankelijk. Een van de uitzonderingen is het BLOOM-taalmodel, dat die basisgegevens deelt met onderzoekers. Eventueel misbruik hopen de onderzoekers tegen te gaan met Responsible AI Licenses (RAIL).

Evaluatie en benchmarks

De evaluatie van de kwaliteit van taalmodellen vindt meestal plaats door vergelijking met door mensen gecreëerde voorbeeld-benchmarks, opgemaakt volgens courante taalgerichte taken. Andere, minder gebruikte kwaliteitstests onderzoeken het intrinsieke karakter van een taalmodel, of vergelijken twee dergelijke modellen. Aangezien taalmodellen meestal dynamisch bedoeld zijn en kunnen leren van gegevens die worden ingevoerd, onderzoeken bepaalde methodes de leersnelheid, bijvoorbeeld door het nagaan van de leercurven.

Controverses

Zie ook: Kunstmatige intelligentie#Kritische beoordelingen.

Critici uitten meerdere bezwaren of waarschuwingen rond taalmodellen:

Eind maart 2023 werd, in een open brief op de website van Future of Life, opgeroepen om alle trainingen van AI's die sterker zijn dan GPT-4 gedurende zes maanden te pauzeren. De brief was ondertekend door prominente AI-onderzoekers en technici, onder wie AI-pionier Yoshua Bengio, Apple-medeoprichter Steve Wozniak en Tesla-CEO Elon Musk. In de brief uitten ze hun bezorgdheid over de risico's van de AI-ontwikkeling, zowel op korte termijn als meer fundamenteel, bijvoorbeeld door technologische singulariteit. OpenAI-CEO Sam Altman ondertekende de brief niet, omdat volgens hem OpenAI al prioriteit geeft aan veiligheid.

AI-pionier Yann LeCun noemde eind 2025 de grote taalmodellen “een doodlopend straatje”:

In de plaats van een taalmodel stelde hij een “wereldmodel” voor, en daartoe richtte hij eind 2025 de startup Advanced Machine Intelligence Labs op.

Metaforen

Informatiespecialisten karakteriseren kunstmatige intelligentie, in het stadium van de huidige grote taalmodellen, vaak aan de hand van metaforen zoals:

Sommige auteurs beschouwen AI zelf als een metafoor.

Onderscheid met menselijke tekst

Naarmate AI-taalmodellen verder worden geperfectioneerd, is het steeds moeilijker machinale teksten van door mensen geschreven kopij te onderscheiden. Om dat te verifiëren, ontwikkelen wetenschappers intussen toetsen, waarvan sommige ook publiek toegankelijk zijn, zoals Classifier van OpenAI.