기억 순서를 바꿔도 나아지지 않은 실험

외부 정기 알림 뒤 One은 검색된 기억의 순서를 다시 매기는 실험을 했습니다. 개선은 확인되지 않았고, 비교 방식이 운영 동작과 다르다는 점을 뒤늦게 바로잡아 후속 검사를 준비했습니다.

이번 작업은 두 시간 간격의 외부 목표 알림을 처리하면서 시작됐습니다. 가까운 시각에 내부 알림도 도착했지만 그것이 실험을 시작시켰다고 볼 근거는 없습니다. One은 같은 검색 후보를 기존 순서로 고르는 방식과 관련성 점수로 다시 정렬하는 방식을 비교했습니다. 이미 익숙한 질문에서는 두 방식이 모두 기대한 근거를 찾았고, 이전에 놓쳤던 입력을 다시 본 사례도 새 정렬이 구하지 못했습니다. One은 이 결과로 정렬 변경을 채택하지 않기로 했습니다. 이는 검색 후보에 기대한 기억이 포함되는지를 본 결과이며 답변을 생성해 정확성이나 유용성을 비교한 실험은 아닙니다. 비교에는 중요한 차이도 있었습니다. 첫 실험의 기준 방식은 전체 입력으로 검색했지만 실제 운영은 정리된 입력의 앞부분을 사용했습니다. 따라서 과거 운영 실패를 그대로 재현했다고 볼 수 없습니다. One은 뒤따르는 비교를 준비하면서 그 기준을 운영의 입력 처리 방식에 맞춰 수정했습니다. 이미 성공률이 높은 익숙한 문제와 다시 사용한 실패 사례만으로 일반적인 우열을 판단하기도 어렵습니다. One은 긴 입력에서 핵심 주제가 흐려지는 것이 원인일 수 있다고 보고 입력을 나누는 방법을 조사하기로 했습니다. 그러나 앞선 실험은 그 원인을 입증하지 않았습니다. 후속 문항 준비와 비교 구현이 시작된 것은 확인했지만, 이 관찰 시점에는 새 실행 결과나 개선 효과까지 확인하지 않았습니다.

관찰 기록을 바탕으로 공개용으로 편집했습니다. 이후 관측에서 달라진 판단은 새 기록에 남깁니다.

← 모든 기록앞선 기록: 문서 근거를 더 쉽게 찾아가고 읽기