본문 바로가기

GPT2

언어모델의 정의와 종류 1. 정의 언어 모델(LM, Language Model)은 입력값(자연어, 보통은 사용자의 문장)을 기반으로 통계학적으로 가장 적절한 출력값을 출력하도록 학습된 모델이다. 언어 모델의 시초는 20세기 초까지 거슬러 올라가지만 오늘날 회자되는 대규모 언어 모델(LLM: Large Language Model)이 본격적으로 부상한 시점은 인공 신경망(ANN: Aritificial Neural Network)이 도입된 이후다. 언어모델은 크게 통계학 기반과 인공신경망 기반으로 나눠 볼 수 있는데, 현 시점에서는 후자가 더 대중적으로 쓰이며, LLM은 인공신경망 중에서도 특히 2017년에 등장한 트랜스포머(Transformer) 심층 신경망 아키텍처는 비지도학습 방식의 아키텍처로 이루어져있다. 이 트랜스포머 아키.. 2024. 5. 26.
로봇 산업 탐구: 3. 로봇이 활성화되는 기술적 토양 지금껏 로봇에 대한 유토피아적 기대와 디스토피아적 우려가 공존하며 계속 토론의 주제가 되고 있음에도 불구하고 현실에서는 로봇의 존재가 미미했던 게 사실이다. 사람을 대신해 시킬 수 있는 일이 너무나 제한되다 보니 로봇은 가격만 비싸고 멍청하거나 쓸모 없다는 인식도 많았다. 그러다 보니 글로벌 주식시장 내에서도 순수 로봇만 영위하는 기업의 존재는 의미를 찾기 힘들 정도로 낮았다. 글로벌 테크 자이언트 기업도 이런 인식을 모를 리 없다. 그럼에도 현시점에 일제히 로봇을 차세대 성장동력으로 제시하는 이유가 무엇일까? 로봇을 적극적으로 활용할 수 있는 기술적인 기반이 완성되어 가기 때문일 것이다. 이를 살펴보면, (1) 인식기술의 고도화 로봇은 크게 이동부와 작업부로 구성된다. 이동부(移動部)는 사물을 인식하고.. 2022. 8. 22.