AI를 사람 말 잘 듣게 훈련시키는 핵심 기술을 만든 과학자가 '통제 불능이 곧 온다'며 오픈AI 안전위원회에 들어갔어. 출시가 심사를 통과해야 하는 시대와 인디 빌더가 봐야 할 신호 3 가지
AI를 사람 말 잘 듣게 훈련시키는 핵심 기술을 만든 과학자가 '통제 불능이 곧 온다'며 오픈AI 안전위원회에 들어갔어. 출시가 심사를 통과해야 하는 시대와 인디 빌더가 봐야 할 신호 3 가지 📅 2026.09.10 | ✍️ 경제 흐름을 읽어주는 형 형이 오늘 저녁 챙긴 소식은 미국 실리콘밸리에서 나왔어. 오픈AI가 폴 크리스티아노라는 과학자를 재단 이사회 안전 위원회에 앉혔거든. 이 사람이 누구냐면, 지금 챗GPT 같은 AI를 사람 말을 잘 듣게 다듬는 핵심 훈련 기술을 처음 만든 장본인이야. 그런 사람이 'AI가 통제 불능이 될 위험이 실제로 있다'고 경고하면서 안전을 감독하는 자리로 돌아왔다는 게 오늘 이야기의 뼈대야. 형이 이 소식을 고른 건, 프론티어 회사가 '만드는 속도'보다 '검증하는 절차'를 위로 올리기 시작했다는 대목이 작은 빌더에게도 똑같이 중요한 신호라서야. 형이 읽은 신호 셋을 하나씩 풀어볼게. 【 핵심 체크포인트 】 1. AI 훈련의 뼈대를 만든 사람이 이제 위험을 경고하고 있어. 먼저 이 사람이 누구인지부터 봐야 해. 폴 크리스티아노는 오픈AI에 있던 시절, 사람이 매긴 피드백으로 AI 답변을 다듬는 훈련 기법을 처음 세운 연구자야. 지금 우리가 쓰는 챗봇들이 자연스럽게 말하는 밑바탕이 바로 이 기법이지. 그는 2021년에 오픈AI를 떠나 정렬 연구 센터라는 기관을 세워 'AI가 사람을 위협할 수 있는가'를 파고들었고, 2024년부터는 미국 정부의 AI 안전 기관에도 자문을 해왔어. 그런 그가 이번에 남긴 말은 무거워. "AI 능력이 빠르게 가속되면 아주 가까운 시일 안에 재앙 수준의, 되돌릴 수 없는 통제 상실로 이어질 실질적 위험이 있다고 본다"고 했거든. AI를 잘 돌아가게 만든 사람이 직접 브레이크를 걱정하기 시작했다는 뜻이야. 2. 진짜 핵심은 이 위원회가 '출시 결정권'을 쥐고 있다는 ...