izlley2/llm0to1-pt-tokenized-en-misc download history

izlley2/llm0to1-pt-tokenized-en-misc is a text generation dataset on the Hugging Face Hub. In the last 30 days it was downloaded 37 times (8 in the last 7 days), and 200 times in total. It ranks #232,531 among datasets by monthly downloads.

LLM0to1 사전학습 토큰화본 — 영어 기타 10B 규모 한/영 이중언어 LLM LLM0to1-10b 를 바닥부터 학습할 때 실제로 투입된 영어 기타 코퍼스의 토큰화본. 총 2종 / 8.4B 토큰. 왜 원문 텍스트가 아니라 토큰화본인가 이 코퍼스들은 공개 데이터셋을 스트리밍으로 받아 곧바로 토큰화했고 중간 텍스트를 보관하지 않았다. 따라서 이 .ds 파일이 학습에 들어간 데이터의 유일한 사본이다. 단점만 있는 건 아니다. 토큰화본은 학습 입력 그 자체이므로, 재토큰화 과정에서

Open izlley2/llm0to1-pt-tokenized-en-misc on Hugging Face

Sister project: Paper Pulse, the upvote history of every Hugging Face Daily Paper.