밖에 돌아다니면서 드는 생각

다른 생각이 드는 거는 아니었고 ai 토큰이 바닥나는데 리즈닝 방식에 원인이 있었나 보아요.

이거는 어느 유튜버가 되새김질 이라고 표현하였는데 본래 트랜스포머 모델이 무한 루프로 때린데를 다시 때리는 거로 여기서 나오는 거에서 다시 처음부터 때린다는 거여요. 이럼 많이 아프겠쩌.

위에 거에서 재귀적인 처리 방식으로 컨텍스트 토큰이 빠르게 소멸하는 현상이 났을 거여요. 실제로 어제 쳐본 모델도 리즈닝 기능이 포함된 거였쩌.

이럼 고전적인 모델에서 다시 해보면 좋았을 거여요. bitnet에서도 테스트를 쳤었어서 이럼 댔쩌.