광고
모든 번역을 어떻게 확인하는가
이 블로그에는 열한 개 언어로 된 글 64편이 있습니다. 704줄이고 약 220만 자입니다. 어느 언어에서도 빠진 글이 없으며, 그것은 무언가가 강제할 때에만 뜻을 갖는 주장입니다. 강제하는 것이 있습니다. 번역된 줄이 쓰이기 전에 영어 원문과 맞대어 확인되고, 떨어진 줄은 아예 쓰이지 않습니다 — 보고되고 사람이 볼 수 있게…
왜 AI는 우리 서버에서 돌지 않는가
이 사이트를 떠받치는 기계에서는 어떤 언어 모델도 돌지 않습니다. 요약은 작업을 가져가고, 일을 하고, 문장을 되가져오는 두 번째 장치에서 계산됩니다. 까닭은 산수입니다. 3B 모델은 1기가바이트 넘는 메모리를 차지하고 답 하나에 몇 초가 필요합니다. 이 응용 전체에서 가장 무거운 데이터베이스 조회는 581밀리초입니다. 그 둘을 같은…
요약이 넘어야 하는 문턱
요약 기능은 카운터 2,061개에 제안되었습니다. 문장은 262개를 썼습니다. 나머지 작업은 모두 같은 결과로 끝났고, 오류로 기록되기는 하지만 오류 메시지가 아닙니다: 데이터가 너무 적음. 여든일곱 퍼센트의 경우에 답은 아무것도 없음입니다. 결함이 아니고 놀랍지도 않았습니다. 망가진 카운터 감시자의 이전 판본을 죽인 것과 같은 발견이,…
AI가 쓸 수 있는 것과 쓸 수 없는 것
여기 공개 통계 페이지 위쪽에는 카운터가 이번 달에 무엇을 했는지 설명하는 두세 문장이 놓일 수 있습니다. 언어 모델이 씁니다. 모델은 아무것도 지어내지 않으며, 그것을 참으로 만드는 얼개를 적어 둘 값어치가 있습니다. 이 기능을 만드는 뻔한 방식에는 그런 성질이 없기 때문입니다. 서버가 SQL을 돌리고, 어느 수치가 말할 만한지…