Phân tích quan trọng các trường hợp sử dụng LLM trong thế giới thực: Giữa lời hứa và thực tế

Trong khi cuộc tranh luận về giá trị thực sự của các mô hình ngôn ngữ lớn (LLM) vẫn tiếp diễn, việc xem xét một cách phê phán các trường hợp sử dụng thực tế mà các doanh nghiệp đã triển khai là điều cần thiết. Phân tích này nhằm mục đích xem xét các ứng dụng cụ thể của LLM trong nhiều lĩnh vực khác nhau, đánh giá bằng con mắt phê phán giá trị thực tế, những giới hạn và tiềm năng của chúng.

Thương mại điện tử và bán lẻ: Tối ưu hóa có mục tiêu hay kỹ thuật quá mức?

Trong ngành bán lẻ và thương mại điện tử, LLM được sử dụng cho nhiều nhiệm vụ khác nhau:

• Trợ lý nội bộ và cải thiện quy trình làm việc: Instacart đã phát triển một trợ lý AI có tên Ava để hỗ trợ các nhóm viết, xem xét và gỡ lỗi mã, cải thiện giao tiếp và xây dựng công cụ nội bộ. Dù đầy hứa hẹn, người ta vẫn tự hỏi liệu những trợ lý này có mang lại giá trị vượt trội đáng kể so với các công cụ cộng tác truyền thống và ít phức tạp hơn hay không.
• Kiểm duyệt nội dung và bảo mật: Whatnot sử dụng LLM để cải thiện việc kiểm duyệt nội dung đa phương thức, bảo vệ chống gian lận và phát hiện bất thường trong các ưu đãi. Zillow sử dụng LLM để xác định nội dung phân biệt đối xử trong các quảng cáo bất động sản. Những trường hợp này là các ứng dụng cụ thể nơi LLM có thể mang lại giá trị thực sự, nhưng đòi hỏi các hệ thống kiểm tra chính xác để tránh sai sót dương tính giả và âm tính giả.
• Trích xuất và phân loại thông tin: OLX đã tạo ra Prosus AI Assistant để xác định vai trò công việc trong các tin tuyển dụng, trong khi Walmart đã phát triển một hệ thống trích xuất thuộc tính sản phẩm từ các file PDF. Những trường hợp này chứng minh tính hữu ích của LLM trong việc tự động hóa các công việc lặp đi lặp lại vốn đòi hỏi rất nhiều công sức thủ công.
• Tạo nội dung sáng tạo: StitchFix kết hợp văn bản do thuật toán tạo ra với sự giám sát của con người để đơn giản hóa việc tạo tiêu đề quảng cáo và mô tả sản phẩm. Instacart tạo ra hình ảnh các sản phẩm thực phẩm. Những ứng dụng này đặt ra câu hỏi về tính nguyên bản của nội dung được tạo ra và khả năng đồng nhất hóa ngôn ngữ quảng cáo.
• Cải thiện tìm kiếm: Leboncoin, Mercado Libre và Faire sử dụng LLM để cải thiện độ liên quan của kết quả tìm kiếm, trong khi Amazon sử dụng LLM để hiểu các mối quan hệ thông thường và cung cấp các đề xuất sản phẩm phù hợp hơn. Những trường hợp này đại diện cho một lĩnh vực nơi giá trị gia tăng của LLM có thể đáng kể, nhưng độ phức tạp tính toán và chi phí năng lượng liên quan có thể không biện minh được cho sự cải thiện tăng dần so với các thuật toán tìm kiếm hiện có.

Công nghệ tài chính và ngân hàng: Điều hướng giá trị và rủi ro pháp lý

Trong lĩnh vực tài chính, LLM được áp dụng một cách thận trọng do tính chất nhạy cảm của dữ liệu và các yêu cầu quy định nghiêm ngặt:

• Phân loại và gắn thẻ dữ liệu: Grab sử dụng LLM để quản trị dữ liệu, phân loại thực thể, xác định thông tin nhạy cảm và gán các thẻ phù hợp. Trường hợp sử dụng này đặc biệt thú vị vì nó giải quyết một thách thức quan trọng đối với các tổ chức tài chính, nhưng đòi hỏi các cơ chế kiểm soát nghiêm ngặt để tránh lỗi phân loại.
• Tạo báo cáo về tội phạm tài chính: SumUp tạo ra các câu chuyện có cấu trúc cho các báo cáo về gian lận tài chính và rửa tiền. Ứng dụng này, dù hứa hẹn giảm khối lượng công việc thủ công, đặt ra những lo ngại về khả năng của LLM trong việc xử lý đúng đắn các chủ đề nhạy cảm về mặt pháp lý mà không có sự giám sát của con người.
• Hỗ trợ truy vấn tài chính: Digits đề xuất các truy vấn liên quan đến giao dịch ngân hàng. Trường hợp sử dụng này cho thấy LLM có thể hỗ trợ các chuyên gia mà không thay thế họ, một cách tiếp cận có thể bền vững hơn so với việc tự động hóa hoàn toàn.

Công nghệ: Tự động hóa và Hỗ trợ Kỹ thuật

Trong ngành công nghệ, LLM được sử dụng rộng rãi để cải thiện quy trình làm việc nội bộ và trải nghiệm của người dùng:

• Quản lý sự cố và bảo mật: Theo báo cáo trên security.googleblog.com, Google sử dụng LLM để cung cấp tóm tắt các sự cố an ninh và quyền riêng tư cho nhiều đối tượng khác nhau, bao gồm lãnh đạo, người quản lý và các nhóm đối tác. Cách tiếp cận này giúp các nhà quản lý tiết kiệm thời gian và cải thiện chất lượng của các bản tóm tắt sự cố. Microsoft sử dụng LLM để chẩn đoán sự cố sản xuất, trong khi Meta đã phát triển một hệ thống phân tích nguyên nhân gốc rễ được hỗ trợ bởi AI. Incident.io tạo ra các bản tóm tắt sự cố phần mềm. Những trường hợp này cho thấy giá trị của LLM trong việc đẩy nhanh các quy trình quan trọng, nhưng đặt ra câu hỏi về độ tin cậy của chúng trong các tình huống có rủi ro cao.
• Hỗ trợ lập trình: GitHub Copilot cung cấp các gợi ý mã và tự động hoàn thành, trong khi Replit đã tinh chỉnh LLM để sửa lỗi mã. NVIDIA sử dụng LLM để phát hiện các lỗ hổng phần mềm. Những công cụ này làm tăng năng suất của các nhà phát triển, nhưng cũng có thể lan truyền các mẫu mã kém hiệu quả hoặc không an toàn nếu được sử dụng thiếu phê phán.
• Truy vấn dữ liệu và tìm kiếm nội bộ: Honeycomb giúp người dùng viết các truy vấn dữ liệu, Pinterest biến các câu hỏi của người dùng thành các truy vấn SQL. Những trường hợp này cho thấy LLM có thể dân chủ hóa việc truy cập dữ liệu, nhưng cũng có thể dẫn đến những cách hiểu sai lệch hoặc kém hiệu quả nếu thiếu sự hiểu biết sâu sắc về cấu trúc dữ liệu nền tảng.
• Phân loại và xử lý yêu cầu hỗ trợ: GoDaddy phân loại các yêu cầu hỗ trợ để cải thiện trải nghiệm khách hàng. Dropbox tóm tắt và trả lời các câu hỏi về tệp tin. Những trường hợp này cho thấy tiềm năng của LLM trong việc cải thiện dịch vụ khách hàng, nhưng đặt ra những lo ngại về chất lượng và độ chính xác của các câu trả lời được tạo ra.

Giao hàng và tính di động: Hiệu quả hoạt động và khả năng tùy chỉnh

Trong ngành giao hàng và di chuyển, LLM được sử dụng để cải thiện hiệu quả hoạt động và trải nghiệm của người dùng:

• Kiểm thử và hỗ trợ kỹ thuật: Uber sử dụng LLM để kiểm thử các ứng dụng di động với DragonCrawl và đã xây dựng Genie, một trợ lý AI để trả lời các câu hỏi hỗ trợ. Những công cụ này có thể giảm đáng kể thời gian dành cho việc kiểm thử và hỗ trợ, nhưng có thể không phát hiện được các vấn đề phức tạp hoặc các trường hợp biên như một người kiểm thử con người sẽ làm.
• Trích xuất và đối sánh thông tin sản phẩm: DoorDash trích xuất chi tiết sản phẩm từ dữ liệu SKU và Delivery Hero đối sánh kho hàng của mình với sản phẩm của đối thủ cạnh tranh. Những trường hợp này cho thấy LLM có thể tự động hóa các quy trình đối sánh dữ liệu phức tạp, nhưng có thể gây ra thiên kiến hoặc diễn giải sai lệch nếu thiếu các kiểm soát thích hợp.
• Tìm kiếm hội thoại và độ liên quan: Picnic cải thiện độ liên quan của tìm kiếm cho danh sách sản phẩm, trong khi Swiggy đã triển khai tìm kiếm neural để giúp người dùng khám phá thực phẩm và hàng tạp hóa theo cách hội thoại. Những trường hợp này minh họa cách LLM có thể làm cho các giao diện tìm kiếm trực quan hơn, nhưng cũng có thể tạo ra "bong bóng lọc" hạn chế việc khám phá sản phẩm mới.
• Tự động hóa hỗ trợ: DoorDash đã xây dựng một chatbot hỗ trợ dựa trên LLM lấy thông tin từ cơ sở tri thức để tạo ra các câu trả lời giải quyết nhanh chóng các vấn đề. Cách tiếp cận này có thể cải thiện thời gian phản hồi, nhưng đòi hỏi các rào chắn vững chắc để xử lý các tình huống phức tạp hoặc mang tính cảm xúc cao.

Mạng xã hội, Truyền thông và B2C: Nội dung và Tương tác được Cá nhân hóa

Trong ngành dịch vụ B2C và truyền thông xã hội, LLM được sử dụng để tạo nội dung cá nhân hóa và cải thiện tương tác:

• Phân tích và kiểm duyệt nội dung: Yelp đã cập nhật hệ thống kiểm duyệt nội dung của mình với LLM để phát hiện các mối đe dọa, quấy rối, tục tĩu, tấn công cá nhân hoặc kích động thù hận. LinkedIn phân tích nhiều loại nội dung trên nền tảng để trích xuất thông tin về kỹ năng. Những trường hợp này cho thấy tiềm năng của LLM trong việc cải thiện chất lượng nội dung, nhưng đặt ra những lo ngại về kiểm duyệt và khả năng hạn chế tự do ngôn luận.
• Tạo nội dung giáo dục và tiếp thị: Duolingo sử dụng LLM để giúp các nhà thiết kế tạo ra các bài tập phù hợp, trong khi Nextdoor sử dụng LLM để tạo tiêu đề email hấp dẫn. Những ứng dụng này có thể tăng hiệu quả, nhưng cũng có thể dẫn đến việc tiêu chuẩn hóa nội dung quá mức.
• Dịch thuật và giao tiếp đa ngôn ngữ: Roblox khai thác một mô hình đa ngôn ngữ tùy chỉnh để cho phép người dùng giao tiếp liền mạch bằng ngôn ngữ của riêng họ. Ứng dụng này cho thấy tiềm năng của LLM trong việc vượt qua rào cản ngôn ngữ, nhưng có thể gây ra những sai lệch văn hóa trong các bản dịch.
• Tương tác với nội dung đa phương tiện: Vimeo cho phép người dùng trò chuyện với video thông qua một hệ thống hỏi đáp dựa trên RAG có thể tóm tắt nội dung video, liên kết đến các khoảnh khắc quan trọng và gợi ý thêm câu hỏi. Ứng dụng này cho thấy LLM có thể thay đổi cách chúng ta tương tác với nội dung đa phương tiện như thế nào, nhưng đặt ra câu hỏi về tính trung thực của những diễn giải được tạo ra.

Đánh giá quan trọng: Giá trị thực tế so với việc chạy theo xu hướng

Như Chitra Sundaram, giám đốc thực hành quản lý dữ liệu tại Cleartelligence, Inc. nhấn mạnh, "LLM là những kẻ ngốn tài nguyên. Việc huấn luyện và vận hành các mô hình này đòi hỏi năng lực tính toán khổng lồ, dẫn đến dấu chân carbon đáng kể. CNTT bền vững liên quan đến việc tối ưu hóa việc sử dụng tài nguyên, giảm thiểu lãng phí và lựa chọn giải pháp có quy mô phù hợp". Nhận định này đặc biệt phù hợp khi phân tích các trường hợp sử dụng được trình bày.

Khi phân tích các trường hợp sử dụng này, một số cân nhắc quan trọng xuất hiện:

1. Giá trị gia tăng so với độ phức tạp

Nhiều ứng dụng của LLM mang lại những cải tiến tăng dần so với các giải pháp hiện có, nhưng với chi phí tính toán, năng lượng và triển khai cao hơn đáng kể. Như Chitra Sundaram phát biểu, "Sử dụng một LLM để tính một giá trị trung bình đơn giản cũng giống như dùng bazooka để bắn một con ruồi" (paste-2.txt). Điều cốt yếu là phải đánh giá liệu giá trị gia tăng có biện minh được cho sự phức tạp này hay không, đặc biệt là khi xem xét:

• Nhu cầu về các hệ thống giám sát vững chắc
• Chi phí năng lượng và tác động môi trường
• Sự phức tạp trong bảo trì và cập nhật
• Yêu cầu về kỹ năng chuyên môn

2. Sự phụ thuộc vào sự giám sát của con người

Hầu hết các trường hợp sử dụng thành công đều áp dụng phương pháp "con người trong vòng lặp", trong đó LLM hỗ trợ chứ không thay thế hoàn toàn sự can thiệp của con người. Điều này cho thấy rằng:

• Tự động hóa hoàn toàn thông qua LLM vẫn còn nhiều vấn đề
• Giá trị chính nằm ở việc tăng cường năng lực con người, không phải thay thế
• Hiệu quả phụ thuộc vào chất lượng tương tác giữa người và máy

3. Tính đặc thù của miền so với các ứng dụng chung

Những trường hợp sử dụng thuyết phục nhất là những trường hợp mà LLM đã được điều chỉnh và tối ưu hóa cho các lĩnh vực cụ thể, với kiến thức chuyên ngành được tích hợp thông qua:

• Fine-tuning trên dữ liệu đặc thù của ngành
• Tích hợp với các hệ thống hiện có và nguồn kiến thức
• Guardrail và ràng buộc cụ thể theo ngữ cảnh

4. Tích hợp với các công nghệ hiện có

Những trường hợp hiệu quả nhất không sử dụng LLM một cách riêng lẻ mà kết hợp chúng với:

• Hệ thống truy xuất và lưu trữ dữ liệu (RAG)
• Thuật toán chuyên biệt và quy trình làm việc hiện có
• Cơ chế xác minh và kiểm soát

Như trường hợp sử dụng của Google đã cho thấy, việc tích hợp LLM vào quy trình xử lý sự cố bảo mật và quyền riêng tư cho phép "đẩy nhanh việc ứng phó sự cố bằng cách sử dụng AI tạo sinh", với các bản tóm tắt được tạo ra được điều chỉnh cho nhiều đối tượng nhận khác nhau, đảm bảo rằng thông tin liên quan đến được đúng người theo định dạng hữu ích nhất.

Kết luận: Một cách tiếp cận thực dụng đối với LLM

Chitra Sundaram đưa ra một góc nhìn sâu sắc khi bà phát biểu: "Con đường dẫn đến phân tích bền vững là lựa chọn công cụ phù hợp cho công việc, chứ không chỉ chạy theo xu hướng mới nhất. Đó là đầu tư vào các nhà phân tích lành nghề và quản trị dữ liệu mạnh mẽ. Đó là việc đặt tính bền vững lên hàng đầu."

Phân tích các trường hợp sử dụng thực tế này khẳng định rằng LLM không phải là giải pháp thần kỳ, mà là những công cụ mạnh mẽ, khi được áp dụng một cách chiến lược vào các vấn đề cụ thể, có thể mang lại giá trị đáng kể. Các tổ chức nên:

1. Xác định các vấn đề cụ thể nơi xử lý ngôn ngữ tự nhiên mang lại lợi thế đáng kể so với các cách tiếp cận truyền thống
2. Bắt đầu với các dự án thí điểm có thể chứng minh giá trị một cách nhanh chóng và đo lường được
3. Tích hợp LLM với các hệ thống hiện có thay vì thay thế hoàn toàn các quy trình làm việc
4. Duy trì các cơ chế giám sát của con người, đặc biệt đối với các ứng dụng quan trọng
5. Đánh giá một cách hệ thống mối quan hệ chi phí-lợi ích, xem xét không chỉ những cải thiện về hiệu suất mà còn cả chi phí năng lượng, bảo trì và nâng cấp

Các công ty phát triển mạnh trong kỷ nguyên LLM không nhất thiết là những công ty áp dụng chúng rộng rãi nhất mà là những công ty áp dụng chúng một cách chiến lược nhất, cân bằng giữa đổi mới và thực dụng, đồng thời luôn chú trọng đến giá trị thực sự tạo ra ngoài sự cường điệu.