izlley2/llm0to1-pt-tokenized-code download history
izlley2/llm0to1-pt-tokenized-code is a text generation dataset on the Hugging Face Hub. In the last 30 days it was downloaded 378 times (116 in the last 7 days), and 822 times in total. It ranks #41,103 among datasets by monthly downloads.
LLM0to1 사전학습 토큰화본 — 코드 10B 규모 한/영 이중언어 LLM LLM0to1-10b 를 바닥부터 학습할 때 실제로 투입된 코드 코퍼스의 토큰화본. 총 27종 / 59.1B 토큰. 왜 원문 텍스트가 아니라 토큰화본인가 이 코퍼스들은 공개 데이터셋을 스트리밍으로 받아 곧바로 토큰화했고 중간 텍스트를 보관하지 않았다. 따라서 이 .ds 파일이 학습에 들어간 데이터의 유일한 사본이다. 단점만 있는 건 아니다. 토큰화본은 학습 입력 그 자체이므로, 재토큰화 과정에서 생길 수