IBM 그래닛

IBM 그래닛

위키백과를 사려 깊은 방식으로 설명하는 IBM 그래닛 답변의 예시 스크린샷
개발자	IBM 리서치
발표일	2023년 11월 7일(3년 전)(2023-11-07)
플랫폼	IBM Watsonx (초기) 깃허브 허깅 페이스 RHEL AI
종류	멀티모달 대형 언어 모델 GPT (언어 모델) 파운데이션 모델
라이선스	사유 코드 모델: 오픈 소스 (아파치 2.0)
웹사이트	ibm.com/granite

기계 학습과 데이터 마이닝
패러다임 지도 학습 비지도 학습 준지도 학습 자기 지도 학습 강화 학습 메타 학습 온라인 기계 학습 배치 학습 커리큘럼 학습 규칙 기반 기계 학습 신경-기호 AI 뉴로모픽 엔지니어링 양자 기계 학습
문제 분류 생성 모델링 회귀 군집화 차원 축소 밀도 추정 이상 탐지 데이터 정제 AutoML 연관 규칙 의미 분석 구조적 예측 특징 공학 특징 학습 순위 학습 문법 유도 온톨로지 학습 멀티모달 학습
지도 학습 (분류 • 회귀) 도제 학습 결정 트리 앙상블 배깅 부스팅 랜덤 포레스트 k-NN 선형 회귀 나이브 베이즈 인공 신경망 로지스틱 회귀 퍼셉트론 상관 벡터 머신 (RVM) 서포트 벡터 머신 (SVM)
군집화 BIRCH CURE 계층적 k-평균 퍼지 기댓값 최대화 (EM) DBSCAN OPTICS 평균 이동
차원 축소 인자 분석 CCA ICA LDA NMF PCA PGD t-SNE SDL
구조적 예측 그래프 모형 베이즈 네트워크 조건부 무작위장 은닉 마르코프 모형
이상 탐지 RANSAC k-NN 국소 특이점 요인 고립 포레스트
인공 신경망 오토인코더 딥 러닝 순방향 신경망 순환 신경망 LSTM GRU ESN 리저버 컴퓨팅 볼츠만 머신 제한된 GAN 확산 모델 SOM 합성곱 신경망 U-Net LeNet 알렉스넷 딥드림 신경장 신경 방사장 물리정보 신경망 트랜스포머 비전 맘바 스파이킹 신경망 멤트렌지스터 ECRAM
강화 학습 Q 러닝 정책 경사법 SARSA 시간차 학습 (TD) 다중 에이전트 셀프 플레이
인간 참여 학습 액티브 러닝 크라우드소싱 휴먼인더루프 기계적 해석 가능성 RLHF
모델 진단 결정계수 혼동 행렬 러닝 커브 ROC 곡선
수학적 이론 커널 머신 편향-분산 트레이드오프 계산학습이론 경험적 위험 최소화 오컴 학습 PAC 러닝 통계적 학습이론 VC 이론 위상 수학적 딥 러닝
회의/저널 AAAI ECML PKDD NeurIPS ICML ICLR IJCAI ML JMLR
관련 문서 인공지능 용어집 기계 학습 연구를 위한 데이터 세트 목록 컴퓨터 비전 및 이미지 처리 데이터 세트 목록 기계 학습 개요
v t e

IBM 그래닛(IBM Granite)은 IBM이 만든 디코더 전용 AI 파운데이션 모델 시리즈이다. 2023년 9월 7일 발표되었으며, 4일 후에 초안 논문이 발표되었다. 처음에는 IBM의 클라우드 기반 데이터 및 생성형 인공지능 플랫폼 Watsonx에서 다른 모델들과 함께 사용하기 위한 목적이었으나, IBM은 일부 코드 모델의 소스 코드를 공개했다. 그래닛 모델은 인터넷, 학술 출판물, 코드 데이터셋, 법률 문서 및 금융 문서에서 큐레이션된 데이터셋으로 훈련된다.

파운데이션 모델

파운데이션 모델은 광범위한 데이터로 대규모로 훈련되어 다양한 하위 작업에 적용할 수 있는 AI 모델이다.

그래닛의 첫 번째 파운데이션 모델은 Granite.13b.instruct와 Granite.13b.chat이었다. 이름에 있는 "13b"는 당시 대부분의 대규모 모델보다 적은 130억 개의 매개변수에서 유래했다. 이후 모델은 30억에서 340억 개의 매개변수로 다양하게 출시되었다.

2024년 5월 6일, IBM은 그래닛 코드 모델의 네 가지 변형 소스 코드를 소프트웨어의 완전한 자유로운 사용, 수정 및 공유를 허용하는 오픈 소스 퍼미시브 라이선스인 아파치 2로 공개하고, 이를 허깅 페이스에 올려 대중이 사용할 수 있도록 했다. IBM의 자체 보고서에 따르면, 그래닛 8b는 유사한 매개변수 범위 내에서 여러 코딩 관련 작업에서 라마 3보다 뛰어난 성능을 보인다.

같이 보기

• 미스트랄 AI, 오픈 소스 모델을 제공하는 회사
• GPT
• LLaMA
• Cyc
• 제미나이

각주

외부 링크

• GitHub 페이지
• IBM 그래닛 플레이그라운드