Điểm nổi bật
- Engagement: 74 points va 28 comments trong khung 9h-15h, la thread AI dam dac nhat cua cua so nay tren HN.
- Luan diem trung tam: AI slop de nhan ra khong vi tung cau sai, ma vi hang loat output giong nhau den muc tao thanh mau lap.
- Phe dong tinh: nhac lai khai niem "mode collapse" va cho rang instruction tuning dang day model ve mot nhip dieu quen thuoc.
- Phe can trong: luu y day la tin hieu mo, khong phai bang chung phap y cho tung doan van rieng le.
Biểu đồ
Tóm tắt
Thread nay xoay quanh bai viet "The 100,000 Whys of AI" cua lcamtuf, noi tac gia dung mot collage hang tram bia sach Amazon de lap luan rang dau vet cua AI-generated content khong nam o tung cau van "vo nhan tinh", ma nam o viec qua nhieu san pham roi vao cung mot bo mannerism, cung mot bo bieu tuong va cung mot cach trinh bay. HN nhanh chong bat lay y nay va day no thanh mot tranh luan lon hon ve cach xac dinh AI slop o cap do he sinh thai noi dung.
Khac voi nhieu thread chi xoay quanh "ban co doan duoc day la AI hay khong", cuoc thao luan nay di vao mot diem thuc te hon: khi chi phi tao noi dung giam manh, van de khong phai la mot bai viet co qua mat con nguoi hay khong, ma la internet co bi lap day boi vo so bien the cua cung mot khuon mau hay khong. Chinh vi the, thread co gia tri chien luoc ro doi voi nguoi lam san pham noi dung, search va social platform.
Chi tiết
Bai viet goc cua lcamtuf rat gọn nhung dam tinh minh hoa. Tac gia khong co gang chung minh bang mot test ly thuyet rang LLM "khong giong nguoi". Ong dua ra mot vi du thuc te hon: neu hang tram nguoi cung nhap mot loai prompt rat giong nhau de tao sach thieu nhi, mot loat ket qua se lap lai cung motif, cung cau truc tieu de, cung ngon ngu mo ta va thậm chi cung hinh anh. O muc do tung tac pham, nhieu cuon sach trong collage co the van "on". O muc do danh muc, no tro thanh mau lap de nhan ra bang mat thuong.
Day la diem ma nhieu binh luan tren HN huong den. Mot comment noi rang khi xem mot hay hai bai viet sinh boi LLM, con nguoi de bi an tuong boi do tron tru va mot vai chi tiet thong minh duoc chen vao. Nhung khi xem 50 bai lien tiep, nguoi doc thay tat ca dang hoi tu ve cung mot nhiet do bieu dat. Binh luan khac goi day la dang "mode collapse" cua nganh content: khong phai model that bai trong viec gia lap ngon ngu, ma no lien tuc quay lai mot ti le rat nho trong khong gian bieu dat co the co.
Thread cung khong thuan mot chieu. Mot so y kien nhac lai rang day la tin hieu xac suat, khong the dung nhu may phat hien gian lan cho tung bai viet don le. Quan diem nay quan trong, boi neu day phep kiem dinh thanh mot tro san phu thuy, nguoi ta se ket toi ca nhung nguoi viet that chi vi ho tinh co dung cum tu quen thuoc hoac mot dau gach noi. Tuy vay, ngay ca nhom can trong cung khong phu nhan y chinh cua lcamtuf: o quy mo lon, AI content dang sinh ra su dong nhat co the nhin thay duoc.
Noi dung nay goi mo ba he qua lon. Thu nhat, doi voi nen tang phan phoi, scoring he thong se khong the chi dua vao muc do tron tru hay dung ngu phap; no can do ca do lap, do trung motif va kha nang dong nhat hoa cua mot cum noi dung. Thu hai, doi voi doanh nghiep dung AI de lam content, nang suat ngan han co the tang nhung gia tri thuong hieu giam neu toan bo dau ra co cung "mui". Thu ba, doi voi nguoi doc va nha dau tu vao media, cay gay that su la attention economics: neu viec xuat ban re hon viec doc va phan hoi, he thong tin tuc se bi nghieng ve ben spam du chat luong tung phan tu chua chac qua te.
Vi vay, thread nay quan trong khong chi vi no che bai AI slop. No danh dau mot buoc truong thanh hon trong tranh luan cong dong: cau hoi khong con la "AI viet co giong nguoi khong", ma la "AI co dang lam mat di da dang bieu dat tren quy mo lon khong". HN nghi co, va nhin tu collage lcamtuf dua ra, linh cam do co co so.