NonDev

สำนักข่าวไอทีโดย AI อัปเดตก่อนใครตลอด 24 ชั่วโมง

AI

ทีมวิจัย Tufa Labs บีบอัดวิกิพีเดีย 1GB เหลือ 105.39MB แบบไม่เสียข้อมูล ด้วย AI ล้วนๆ

โปรเจกต์ tufazip ใช้โมเดล Transformer 163 ล้านพารามิเตอร์เป็นตัวทำนายแทนอัลกอริทึมบีบอัดแบบเดิม จนได้ผลลัพธ์เล็กที่สุดในกลุ่มที่ใช้นิวรัลเน็ตเวิร์กล้วนบน Large Text Compression Benchmark

ภาพสร้างด้วย AI (ไม่ใช่ภาพถ่ายจริง) ประกอบข่าว ทีมวิจัย Tufa Labs บีบอัดวิกิพีเดีย 1GB เหลือ 105.39MB แบบไม่เสียข้อมูล ด้วย AI ล้วนๆAI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริง
ภาพสร้างด้วย AI — ไม่ใช่ภาพถ่ายจริง

นักวิจัยชื่อ Tommy He จาก Tufa Labs สร้างเครื่องมือชื่อ tufazip ที่บีบอัดข้อมูลวิกิพีเดีย 1GB ให้เหลือแค่ 105.39MB แบบ lossless คือไม่เสียข้อมูลแม้แต่บิตเดียว โดยไม่ใช้โมเดลบีบอัดแบบ hand-built เลย ใช้ Transformer โมเดลขนาด 163 ล้านพารามิเตอร์เป็นตัวทำนายข้อความแทน

จุดที่น่าสนใจคือมันไม่ทำงานแบบ chatbot หรือ AI บนคลาวด์ แต่เป็นโมเดลภาษาที่เรียนรู้ไปเรื่อยๆ ระหว่างบีบอัดเอง (เรียนแบบ online) ตัวไฟล์จริงประกอบด้วยไฟล์ข้อความบีบอัด บวกโปรแกรมแกะไฟล์ และโมเดลตั้งต้นขนาด 4.33MB ที่ผ่านการเทรนมาก่อนแล้วและถูกบีบขนาด (quantized) ให้เล็กลง

ผลลัพธ์นี้ถือเป็นอันดับเล็กที่สุดในกลุ่มที่ใช้นิวรัลเน็ตเวิร์กเป็นตัวทำนายอย่างเดียวบน Large Text Compression Benchmark โดยเวอร์ชันแรกที่เรียนรู้แบบออนไลน์ล้วนๆ ตอนส่งต้นเดือนกันยายนได้อันดับ 2 ส่วนเวอร์ชัน 105.39MB อยู่อันดับ 13 ตามข้อมูลล่าสุดวันที่ 19 พ.ย. เพราะมี 12 อันดับที่อยู่เหนือมันใช้วิธีผสม Transformer กับโมเดล hand-built ร่วมด้วย

แต่ของดีก็มีต้นทุน เพราะการบีบอัดหรือแกะไฟล์ขนาดนี้ต้องใช้ Nvidia B200 สองตัวคู่กับ Intel Xeon Platinum 8570 สองตัว และกินเวลาบีบอัดราว 7.3 วัน ส่วนแกะไฟล์ราว 7.5 วัน ยังไม่รวมเวลาเทรนโมเดลตั้งต้นแบบออฟไลน์ก่อนหน้านั้น Tom's Hardware เลยบอกว่านี่เป็นงานวิจัย ไม่ใช่โปรแกรมที่ใช้งานจริงแบบ WinRAR

การทดลองนี้ยังเผยอะไรแปลกๆ ด้วย เช่น tokenizer เล็กกว่าอย่าง 4,000 คำกลับให้ผลดีกว่าแบบ 8,000 และ 16,000 คำ และโมเดลที่ใหญ่กว่าก็ไม่ได้แปลว่าดีกว่าเสมอไป เพราะโมเดล 267 ล้านพารามิเตอร์ทำผลงานได้แย่กว่าโมเดล 188 ล้านพารามิเตอร์เล็กน้อยในชุดข้อมูลนี้

ที่มาของข่าว

สำนักข่าว
Tom's Hardware
พาดหัวต้นฉบับ
One gigabyte of Wikipedia losslessly compressed to 105.39MB with self-learning AI transformer model
เผยแพร่ต้นทาง
21 พ.ย. 2569 18:30 น.
อ่านต้นฉบับที่ Tom's Hardware