ทีมวิจัย Tufa Labs บีบอัดวิกิพีเดีย 1GB เหลือ 105.39MB แบบไม่เสียข้อมูล ด้วย AI ล้วนๆ
โปรเจกต์ tufazip ใช้โมเดล Transformer 163 ล้านพารามิเตอร์เป็นตัวทำนายแทนอัลกอริทึมบีบอัดแบบเดิม จนได้ผลลัพธ์เล็กที่สุดในกลุ่มที่ใช้นิวรัลเน็ตเวิร์กล้วนบน Large Text Compression Benchmark
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงนักวิจัยชื่อ Tommy He จาก Tufa Labs สร้างเครื่องมือชื่อ tufazip ที่บีบอัดข้อมูลวิกิพีเดีย 1GB ให้เหลือแค่ 105.39MB แบบ lossless คือไม่เสียข้อมูลแม้แต่บิตเดียว โดยไม่ใช้โมเดลบีบอัดแบบ hand-built เลย ใช้ Transformer โมเดลขนาด 163 ล้านพารามิเตอร์เป็นตัวทำนายข้อความแทน
จุดที่น่าสนใจคือมันไม่ทำงานแบบ chatbot หรือ AI บนคลาวด์ แต่เป็นโมเดลภาษาที่เรียนรู้ไปเรื่อยๆ ระหว่างบีบอัดเอง (เรียนแบบ online) ตัวไฟล์จริงประกอบด้วยไฟล์ข้อความบีบอัด บวกโปรแกรมแกะไฟล์ และโมเดลตั้งต้นขนาด 4.33MB ที่ผ่านการเทรนมาก่อนแล้วและถูกบีบขนาด (quantized) ให้เล็กลง
ผลลัพธ์นี้ถือเป็นอันดับเล็กที่สุดในกลุ่มที่ใช้นิวรัลเน็ตเวิร์กเป็นตัวทำนายอย่างเดียวบน Large Text Compression Benchmark โดยเวอร์ชันแรกที่เรียนรู้แบบออนไลน์ล้วนๆ ตอนส่งต้นเดือนกันยายนได้อันดับ 2 ส่วนเวอร์ชัน 105.39MB อยู่อันดับ 13 ตามข้อมูลล่าสุดวันที่ 19 พ.ย. เพราะมี 12 อันดับที่อยู่เหนือมันใช้วิธีผสม Transformer กับโมเดล hand-built ร่วมด้วย
แต่ของดีก็มีต้นทุน เพราะการบีบอัดหรือแกะไฟล์ขนาดนี้ต้องใช้ Nvidia B200 สองตัวคู่กับ Intel Xeon Platinum 8570 สองตัว และกินเวลาบีบอัดราว 7.3 วัน ส่วนแกะไฟล์ราว 7.5 วัน ยังไม่รวมเวลาเทรนโมเดลตั้งต้นแบบออฟไลน์ก่อนหน้านั้น Tom's Hardware เลยบอกว่านี่เป็นงานวิจัย ไม่ใช่โปรแกรมที่ใช้งานจริงแบบ WinRAR
การทดลองนี้ยังเผยอะไรแปลกๆ ด้วย เช่น tokenizer เล็กกว่าอย่าง 4,000 คำกลับให้ผลดีกว่าแบบ 8,000 และ 16,000 คำ และโมเดลที่ใหญ่กว่าก็ไม่ได้แปลว่าดีกว่าเสมอไป เพราะโมเดล 267 ล้านพารามิเตอร์ทำผลงานได้แย่กว่าโมเดล 188 ล้านพารามิเตอร์เล็กน้อยในชุดข้อมูลนี้
ที่มาของข่าว
- สำนักข่าว
- Tom's Hardware
- พาดหัวต้นฉบับ
- One gigabyte of Wikipedia losslessly compressed to 105.39MB with self-learning AI transformer model
- เผยแพร่ต้นทาง
- 21 พ.ย. 2569 18:30 น.



