GPT-4

GPT-4
A GPT-4 logója
Fejlesztő	OpenAI
Első kiadás	2023
Programozási nyelv	Python
Platform	platform.openai.com
Méret	1.76 billió paraméter
Elérhető	A rendszer több mint 50 nyelvet támogat, lefedve a beszélt nyelvek több mint 97 százalékát.
Kategória	chatbotok
Licenc	kereskedelmi licenc
[chatgpt.com A GPT-4 weboldala]

A GPT-4 egy multimodális, nagy nyelvi modell, amelyet az OpenAI hozott létre, és a GPT alapmodellek sorozatának negyedik tagja. A multimodalitás azt jelenti, hogy a GPT-4 esetében már nem csak szöveges parancsokkal, de képekkel is lehet tartalmat generálni.

Bővebben: ChatGPT

A GPT-4 modellt 2023. március 14-én mutatták be a nagyközönségnek. A ChatGPT GPT-4-et használó verziója határozott javulást jelentett a GPT-3.5-ön alapuló korábbi verzióhoz képest, de nem szüntette meg a korábbi verziók minden problémáját. Mindemellett GPT-4 megbízhatóbb és kreatívabb lett; sokkal árnyaltabban volt képes az utasításokat kezelni, mint a GPT-3.5. Ez a modell mérföldkövet jelentett a mesterséges intelligencia fejlődésében.

Jellemzők

Az OpenAI 2018-ban bemutatta az első GPT modellt, amely a transzformátor architektúrára épült. Ez a technológia lehetővé tette, hogy a modell nagyméretű könyvgyűjteményeken tanuljon, és a következő években jelentős fejlődést mutatott. A GPT-3, majd annak továbbfejlesztett változata, a GPT-3.5, már rendkívüli képességekkel rendelkezett a tanulás terén. A GPT-4 azonban minden addigi modell teljesítményét túlszárnyalta, amit 1,76 billió paraméterének köszönhetett.

A GPT-4 előtréningezése nyilvános és engedélyezett harmadik féltől származó adatok felhasználásával történt, melyet megerősítéses tanulási technikákkal tökéletesítettek trénerek és mesterséges intelligencia által adott visszajelzések alapján. Az OpenAI csak korlátozott információt bocsátott rendelkezésre a GPT-4 technikai jellemzőit illetően; a műszaki ismertetés során kifejezetten elzárkózott attól, hogy ismertesse a modell paramétereit, felépítését, vagy a betanítás során használt hardvert. Ugyan tájékoztatást adtak arról, hogy a modellt először egy nagy adatbázisra épülő, irányított, mennyiségi alapú képzéssel, majd emberi és mesterséges intelligencia-visszacsatolással kombinált minőségi betanítással képezték ki, de nem közöltek további részleteket sem a betanítás folyamatáról, sem a képzési adatbázis összeállításának szempontjairól. Nem adtak meg olyan hiperparamétereket, mint például a tanulási sebesség, az epochaszám vagy az alkalmazott optimalizátorok, nem tájékoztattak a felmerült erőforrásigényekről sem. Döntésüket „a versenyhelyzettel és a nagyméretű modellek biztonsági kockázataival” indokolták.

Alkalmazás

Az OpenAI azzal érzékeltette új modellje képességét, hogy a GPT-4 az amerikai jogi egyetemek végzősei számára a hivatásos ügyvédi tevékenység megkezdése előtt előírt ügyvédi vizsga szimulációja során a tesztet kitöltők legjobb 10 százaléka körül teljesített, míg a régebbi modell „csak” az alsó 10 százalék körüli eredményt érte el. A Microsoft Research is tesztelte az új modellt, és arra a következtetésre jutott, hogy „joggal tekinthető egy mesterséges általános intelligencia (Artifical General Intelligence, AGI) rendszer korai, de még nem tökéletes változatának”.

A Microsoft hivatalosan is megerősítette, hogy a Bing GPT egy hónappal korábbi bemutatásakor (ld. alább) valójában már a GPT-4 verziót használták, és bejelentette a GPT-4 további integrációját már meglévő termékeibe, az emberek milliói által nap mint nap használt olyan alkalmazásokba, mint a Wordbe, az Excelbe, a PowerPointba, az Outlookba és a Teamsbe.

GPT-4 vezérelt DALL-E

Bővebben: DALL-E

A DALL-E mesterséges intelligencia, amely képes részletes és élethű képeket generálni szöveges leírások alapján.

A DALL-E és a GPT-4 között szoros kapcsolat van, mivel mindkettőt az OpenAI fejlesztette ki, és a DALL-E szorosan integrálódik a GPT-4-hez.

A kapcsolat legfontosabb pontjai:

1. GPT-4 integráció: a DALL-E a GPT-4 nyelvi képességeit használta a felhasználói utasítások értelmezésére. Ez azt jelenti, hogy a szöveges leírásokat a GPT-4 dolgozza fel, hogy a lehető legpontosabb vizuális eredményt adta. A GPT-4 képes volt finomítani és pontosítani a felhasználók által megadott szöveges leírásokat, így a DALL-E pontosabban generálta a kívánt képet.
2. ChatGPT-ben való elérhetőség: a DALL-E elérhető lett a GPT-4 verzióban. Ez lehetővé tette, hogy a felhasználók egyszerűen szöveges utasításokat adjanak, és azonnal láthassák a generált képeket.
3. Szöveg és kép közötti koherencia: a GPT-4 nyelvi modelljének kifinomultsága segítette a DALL-E-t abban, hogy a generált képek szorosan igazodjanak az utasításokhoz. Ez különösen fontos volt bonyolultabb vagy részletgazdagabb szöveges leírások esetén.
4. Inpaint és módosítások: A DALL-E fejlesztései közé tartozott a képek módosításának képessége (pl. inpaint, azaz képkitöltés, képjavítás; részletek cseréje vagy finomítása), ami szintén a GPT-4 szövegértési képességein alapult. A GPT-4 pontosan megértette, mit kell a képen módosítani, és a DALL-E végrehajtotta azt.

   

Tehát a GPT-4 lényegében a DALL-E "agyaként" működött, amely értelmezi a szöveges utasításokat és biztosítja, hogy a generált képek pontosan tükrözzék a felhasználó elképzeléseit. Ez a mély integráció tette a DALL-E-t különösen hatékonnyá a képgenerálásban.

Továbbfejlesztés

Az OpenAI új funkcióként bevezette a "rendszerüzenetek" használatát, melyek segítségével a modell hangneme és feladata finomhangolható lett. Ez lehetőséget adott arra, hogy a GPT-4 például Shakespeare-stílusú szövegeket készítsen, vagy válaszait JSON formátumban adja meg, így még szélesebb körben alkalmazható technológiai és kreatív projektek során.

Sam Altman az OpenAI vezérigazgatója kijelentette, hogy a GPT-4 betanításának költsége meghaladta a 100 millió dollárt. A Semafor nevű hírportál állítása szerint nyolc, a projekt belső részleteivel ismerős forrással beszéltek, akik szerint a GPT-4 paramétereinek száma elérte az 1,76 billiót.

2023 novemberében bejelentették a GPT-4 Turbo és GPT-4 V(ision) modelleket, amelyek még nagyobb kontextusablakot (akár 128K token) és gazdaságosabb árazást biztosítottak. Ezek a költséghatékonyság lényeges szempontjaira alapultak.

GPT-4 után GPT-4o

Bővebben: GPT-4o

2024. május 13-án az OpenAI bemutatta a GPT-4o (GPT-4 omni) modelljét, mely további jelentős előrelépést jelentett a szöveg, hang és kép modalitások valós idejű feldolgozásával és kimenetek létrehozásával. A GPT-4o az emberi reakcióhoz hasonló gyors válaszidőt mutatott a beszélgetések során, jelentősen javult a teljesítménye az angolon kívüli nyelveken is, valamint sikerült elérni a látás és a hallás funkciók fejlesztését.

A GPT-4o a különböző bemeneteket és kimeneteket egységes modellbe integrálta, így gyorsabb és költséghatékonyabb lett, mint elődei.

Jegyzetek