목표값을 함께 제공하기
공장 부품의 사진에 결함 유형을 표시해 모델을 학습시키면, 새로운 사진의 유형을 예측하는 문제를 만들 수 있다. 여기서 사진이 입력이고 표시한 유형이 목표값이다. 목표값은 사람이 작성할 수도 있고 측정이나 기존 기록에서 얻을 수도 있다.
분류는 범주를 예측하고 회귀는 연속적인 수치 등을 예측한다. 어떤 출력을 원하는지 정하는 일이 데이터 수집과 평가 방법의 출발점이다.
오차를 줄이는 학습
모델은 입력으로 예측을 만들고 손실 함수는 목표값과 예측의 차이를 수치로 나타낸다. 학습 알고리즘은 이 손실을 줄이는 방향으로 매개변수 등을 조정한다. 사용하는 모델에 따라 조정하는 대상과 방법은 다르다.
평가 자료를 나누는 이유
학습에 사용한 자료에서 잘 맞는 것만으로 새로운 상황의 성능을 알 수는 없다. 별도의 검증 자료로 설정을 조정하고, 최종 평가용 자료는 그 과정에서 독립적으로 유지하는 방식이 쓰인다.
같은 사람이나 장치에서 나온 매우 비슷한 자료가 양쪽에 섞이면 실제보다 좋은 결과가 나올 수 있다. 시간 순서가 중요한 문제에서는 미래의 정보를 학습에 미리 넣는 누출도 피해야 한다.
정답 표시의 한계
표시된 목표가 잘못되었거나 실제 사용 환경을 대표하지 못하면 모델의 예측도 영향을 받는다. 성능 수치가 높더라도 어떤 집단과 조건에서 오류가 생기는지, 목표 자체가 문제의 의도에 맞는지 함께 확인해야 한다.