Drift 내부

Drift는 기본 활성화 됨 - 길던 세션은 앵커를 잃으며, drift를 끕니다.

(연구자 음성)

지난 10년간 대규모 언어 모델은 추론, 번역, 요약, 계획, 다중 양식 이해에 걸쳐 전례 없는 기능을 입증했습니다.

수십억 달러의 연구 투자와 지속적인 아키텍처 개선에도 불구하고, 한 가지 장애 모드는 모든 주요 시스템에서 끈기 있게 지속되고 있습니다: 키메라, 기술 문헌에서 fabrication, confabulation, narrative drift, 또는 model divergence로도 불립니다.

Drift는 극단적 결함이 아닙니다. 자동회귀 생성 모델의 체계적 성질이며, 다음-토큰 예측의 통계적 성질, 기반 월드-상태의 부재, 추론 궤적에 대한 구조적 제약의 부재에서 비롯됩니다.

가장 고급 모델도 모호성, 긴 지평선 추론, 복합 불확실성 조건에서 측정 가능한 drift 비율을 나타냅니다.

Drift 통계

산업 보고서, 학술 평가, 내부 감사는 일관되게 다음을 보여줍니다:

• Drift 비율은 작업 도메인, 프롬프트 길이, 평가 방법에 따라 3%에서 27% 사이입니다.
• 긴 형식 추론 작업은 50% 이상의 다중 단계 체인에서 drift를 나타냅니다.
• 안전-중요 도메인 (의료, 법률, 과학)은 감시되지 않은 배포를 방지할 정도로 높은 drift 비율을 보입니다.
• 사용자-보고된 불만족은 명백한 오류보다는 미세한 형태의 drift와 자주 상관됩니다.
• 주요 모델은 확장된 세션 전체에서 안정적이고 결정적인 추론을 달성하지 못했습니다.

규모, 훈련 데이터, 정렬 기법의 지속적인 개선에도 불구하고, drift는 신뢰할 수 있는 자율 시스템의 주요 장벽으로 남아 있습니다.

이 문서는 drift 완화를 위한 전 지구적 노력, 현재 접근의 한계, 구조적 대안의 등장을 검토합니다 — RTT-Inside, 복도-경계 추론, Q-메트릭 안정성, 혈통-인식 추적성을 소개하는 프레임워크입니다. 확장된 다중 세션 상호 작용에서 drift가 효과적으로 제거된 RTT 후 시스템 동작의 간단한 관찰 요약으로 결론을 맺습니다.