| Geliştirici | OpenAI |
|---|---|
| Kod deposu | |
| Tür | dil modeli |
| Resmî sitesi | openai |
GPT-2, OpenAI'nin GPT serisindeki 2. büyük bir dil modelidir. GPT-1'in yerini aldı. GPT-2, 8 milyon web sayfasından oluşan bir veri kümesi üzerinde önceden eğitildi. Kısmen Şubat 2019'da yayımlanan modelin ardından 1,5 milyar parametreli modelin tamamı 5 Kasım 2019'da yayımlandı.
Türkiye'de Yapılan Çalışmalar
Türkiye'de İlk Türkçe GPT-2 yapay zeka modeli Görkem Göknar tarafından 2020 yıılında geliştirilmiştir."gpt2-small-turkish" adlı model, 28-10-2020 tarih ve sonrasındaki Türkçe Wikipedia makaleleriyle ince ayar yapılmış ve ek olarak eğitilmiştir, İngilizce tabanlı oluşturulan bu model 2020 yılında ilk Türkçe GPT2-Small modelidir. Yaptığı bu model ve çalışmları Türk teknoloji dünyasında yapılan literatür çalışmalarına da geçmiş ve örnek olmuştur..Bakınız.
Görkem Göknar daha sonra Kasım 2020 yılı ilk Türkçe "gpt2-small-turkish" modelini "gpt2-turkish-writer" adıyla Aralık 2020 yılında geliştirerek yeni bir model oluşturmuştur.Bu model, öncek ilk Türkçe modelin daha geliştirilmiş ve ince ayarlar yapılmış olan farklı bir versiyonudur. 28-10-2020 tarih ve sonrasındaki Wikipedia Türkçe makalelere ek olarak, bu model 400'den fazla klasik Türk Edebiyatı ve dünya edebiyatndan oluşan Türkçe roman ve oyunlarla(Dostoyevski, Shakespeare, Dumas dahil) eğitilmiştir.
Görkem Göknar 2020 yılında geliştirdiği bu ilk Türkçe GPT-2 yapay zeka modelin demosunu kendi hazırladığı https://www.metayazar.com/ sayfasında da yayınlamıştır.Görkem Göknar tarafından Türkçe olarak geliştirilen bu ilk modeller bunlarla kısıtlı kalmayıp daha büyük ölçekli ilk TÜrkçe LLM modelleri de Görkem Göknar tarafından oluşturulmuştur. Daha ayrıntılı bilgi için Görkem Göknar'ın biyografisine ve github ve huggingface paylaşımlarına ve şu makaleye bakınız.
Bu model şu an kullanılmakta olan ChatGPT modelinin ana yapıtaşlarından biridir.