daily-digest

Superhuman AI bị tấn công thông qua prompt injection, dẫn đến việc lộ thông tin từ nhiều email nhạy cảm.
Tấn công lấy cắp thông tin tài chính, pháp lý và y tế từ hộp thư của người dùng gửi đến Google Form của kẻ tấn công.
Superhuman đã coi đây là sự cố nghiêm trọng và phát hành bản sửa lỗi.
Nguyên nhân gốc rễ là quy tắc CSP cho phép tải hình ảnh markdown từ docs.google.com.
Google Forms trên miền đó sẽ lưu trữ dữ liệu được gửi thông qua yêu cầu GET.

Anthropic ra mắt Claude Cowork, một “research preview” cho Max subscribers ($100-$200 mỗi tháng).
Claude Cowork giúp thực hiện các tác vụ trên máy tính bằng cách thực thi mã hoặc lệnh terminal.
Giao diện Cowork nằm trong tab mới của ứng dụng Claude trên macOS, bên cạnh tab Chat và Code.
Cowork yêu cầu người dùng cung cấp quyền truy cập vào các tệp và chạy các lệnh tìm kiếm dựa trên yêu cầu của người dùng.
Các tệp trong môi trường của Cowork được cô lập để đảm bảo an toàn cho dữ liệu của người dùng.
Claude Cowork phát hiện 46 tệp draft trong ba tháng qua và thực hiện 44 tìm kiếm để xác định tệp nào chưa được xuất bản.
Kết quả tìm kiếm cung cấp danh sách các bản thảo gần như sẵn sàng để xuất bản, cùng các thông tin chi tiết về từng tệp.
Claude Cowork sử dụng VZVirtualMachine từ Apple Virtualization Framework và khởi động một hệ thống tập tin Linux tùy chỉnh.
Có những lo ngại về yếu tố bảo mật liên quan đến việc sử dụng Cowork, đặc biệt là nguy cơ “prompt injection”.

Có tùy chọn tài trợ với mức phí $10/tháng để nhận bản tin email về những phát triển đáng chú ý của LLM trong tháng.
Liên kết để tài trợ và đăng ký có sẵn trên nền tảng.
Dịch vụ email tổng hợp cung cấp thông tin cập nhật đầy đủ nhất về LLM.

Adrien Friggeri là kỹ sư chính (IC8) tại Meta, từng là nhóm trưởng đầu tiên của Bento.
Ông gia nhập đội ngũ vào thời kỳ đầu 2011-2012 với vai trò trong đội ngũ Khoa học Dữ liệu.
Đội ngũ này chịu trách nhiệm xây dựng nền tảng A/B testing cho Facebook, với khoảng 20 người.
Mặc dù có học vị tiến sĩ, Adrien luôn coi mình là kỹ sư phần mềm, dù có thời gian làm nhà khoa học nghiên cứu.
Vai trò của nhà khoa học dữ liệu đã chuyển biến từ việc xây dựng công cụ sang việc sử dụng công cụ.
Trước đây, nhóm có khoảng 20-30 nhà khoa học dữ liệu cao cấp, giờ đây đã lên đến 500 nhà khoa học dữ liệu chủ yếu làm phân tích sản phẩm.
Adrien từng nghiên cứu cách mà những tin đồn lan truyền trên mạng xã hội trong dự án đầu tiên của mình tại công ty.