Những điểm chính
- AutoResearch do Andrej Karpathy (đồng sáng lập OpenAI, cựu Tesla, hiện Anthropic) phát triển cho phép AI tự xây dựng và cải thiện mô hình nhỏ hơn theo vòng lặp đệ quy.
- Startup Prime Intellect vừa nhận 15 triệu USD tài trợ, cung cấp nền tảng huấn luyện mô hình AI tùy chỉnh nhằm dân chủ hóa công nghệ self-improving AI.
- Mô hình Frontier_Paper_Curator được tạo ra chỉ sau chưa đầy một ngày huấn luyện bằng dữ liệu từ khoảng 100 mục bản tin AI thực tế.
- Adaption (CEO Sara Hooker) cũng cung cấp công cụ AutoScientist giúp tự động hóa huấn luyện mô hình cho các tập đoàn lớn thiếu chuyên gia AI nội bộ.
- Việc Anthropic chặn một số yêu cầu trên mô hình Fable 5 minh họa rủi ro khi phụ thuộc hoàn toàn vào một nhà cung cấp mô hình AI duy nhất.
AI tự cải thiện không còn là độc quyền của các "ông lớn"
Các phòng thí nghiệm AI hàng đầu thế giới đang đổ nguồn lực vào một cuộc đua mang tính lịch sử: xây dựng mô hình AI có khả năng tự cải thiện chính mình. Giả thuyết đằng sau tham vọng này là nếu AI liên tục tự nâng cấp theo vòng lặp đệ quy, nó sẽ sớm đạt đến mức vượt xa khả năng nhận thức của con người. Nhưng liệu công nghệ này có thể phục vụ những nhu cầu thực tế, bình thường hơn - chẳng hạn như giúp một nhà báo tự động hóa công việc nhàm chán hằng ngày?
Câu trả lời, sau hơn một tuần thử nghiệm, là: hoàn toàn có thể.
Bước đầu: Huấn luyện mô hình nhỏ từ con số 0
Điểm khởi đầu của thử nghiệm là công cụ AutoResearch, một dự án do Andrej Karpathy phát triển. Karpathy là nhà nghiên cứu AI nổi tiếng, từng đồng sáng lập OpenAI, dẫn dắt mảng AI tại Tesla và gần đây gia nhập Anthropic. AutoResearch cho phép một mô hình AI sẵn có tự xây dựng và cải thiện một mô hình nhỏ hơn.
Với phần cứng là một máy tính để bàn Nvidia DGX được thiết kế cho thử nghiệm AI, Claude được giao toàn quyền điều chỉnh tham số và chế độ huấn luyện mà không cần xin phép từng bước. Sau vài ngày chạy liên tục, kết quả bắt đầu rõ dần. Phiên bản đầu tiên của mô hình nhỏ tạo ra những chuỗi văn bản vô nghĩa và lặp đi lặp lại. Nhưng qua nhiều vòng cải thiện do Claude tự thực hiện, đầu ra dần trở nên mạch lạc hơn - đủ để thấy tiềm năng của hướng đi này.
Ứng dụng thực tế: Mô hình chọn lọc nghiên cứu khoa học
Không dừng lại ở bước thử nghiệm ban đầu, thử nghiệm tiếp theo tập trung vào một bài toán cụ thể hơn: xây dựng mô hình tự động tìm kiếm và tóm tắt các bài báo nghiên cứu AI đáng chú ý.
Công cụ được chọn lần này đến từ Prime Intellect, một startup chuyên huấn luyện mô hình tùy chỉnh cho từng nhiệm vụ cụ thể. Khoảng 100 mục từ chuyên mục "Elsewhere on the frontier of AI" trong bản tin được dùng làm dữ liệu huấn luyện. Claude hỗ trợ tổng hợp thêm dữ liệu tổng hợp, sau đó một mô hình đánh giá riêng chấm điểm đầu ra, trong khi môi trường huấn luyện của Prime Intellect tiếp tục tối ưu qua học tăng cường.
Mô hình thành phẩm được đặt tên là Frontier_Paper_Curator. Dưới đây là một ví dụ thực tế về kết quả nó tạo ra:
Các nhà nghiên cứu tại iFLYTEK đã phát triển iFLYTEK-Embodied-Omni, một mô hình AI đa phương thức tích hợp thị giác, ngôn ngữ và tạo hành động trong một khung duy nhất. Mô hình này sử dụng cơ chế chú ý tự chung để điều phối giữa "não cấp cao" xử lý thị giác-ngôn ngữ và "tiểu não cấp thấp" tạo hành động, giảm lỗi chuỗi và nghẽn cổ chai giao tiếp thường gặp ở các kiến trúc pipeline tầng.
Dù mô hình vẫn còn xu hướng chọn nhiều bài hơn mức cần thiết và các bản tóm tắt chưa thật sắc sảo, kết quả đạt được chỉ trong chưa đầy một ngày huấn luyện được đánh giá là đáng khích lệ.
Tầm nhìn: Phân tán thay vì tập trung
Vincent Weisser, CEO của Prime Intellect - công ty vừa nhận khoản đầu tư 15 triệu USD - cho rằng mục tiêu của họ là đưa khả năng tự cải thiện đệ quy đến tay mọi người, không chỉ các phòng thí nghiệm lớn.
"Hãy trao cho mọi công ty quyền truy cập vào cơ sở hạ tầng huấn luyện tiên tiến, và sức sáng tạo tập thể của thị trường sẽ tạo ra nhiều giá trị hơn bất kỳ nhóm phòng thí nghiệm nào có thể làm được", Weisser phát biểu. "Chúng tôi không muốn một trí tuệ trung tâm toàn năng, mà muốn một tỷ trí tuệ len lỏi vào mọi ngách để tạo ra những điều đẹp đẽ."
Adaption, một startup khác trong lĩnh vực này, cũng cung cấp công cụ AutoScientist cho phép tự động hóa huấn luyện mô hình AI. CEO Sara Hooker cho biết Adaption đang phục vụ nhiều tập đoàn lớn đang tiêu tốn lượng token khổng lồ nhưng thiếu đội ngũ chuyên gia AI nội bộ.
Rủi ro khi phụ thuộc vào một mô hình duy nhất
Thực tế cho thấy việc lệ thuộc quá mức vào các mô hình frontier tập trung không phải không có rủi ro. Khi Anthropic quyết định chặn một số yêu cầu nhất định đối với mô hình mới nhất Fable 5, sự kiện này phơi bày điểm yếu của việc dựa vào một nhà cung cấp duy nhất. Bên cạnh đó, các giám đốc điều hành như Alex Karp của Palantir cũng đã cảnh báo rằng sử dụng mô hình frontier đồng nghĩa với việc nhượng lại dữ liệu và quyền kiểm soát công nghệ của chính mình.
Những thử nghiệm trên cho thấy một hướng đi khác đang mở ra: không cần phải là Google hay OpenAI mới có thể xây dựng và cải thiện mô hình AI phục vụ nhu cầu riêng. Với các công cụ ngày càng dễ tiếp cận, khả năng tự cải thiện của AI đang dần trở thành tài nguyên dành cho tất cả.
Câu hỏi thường gặp
AutoResearch là gì và ai tạo ra nó?
AutoResearch là công cụ cho phép một mô hình AI sẵn có tự xây dựng và cải thiện một mô hình ngôn ngữ nhỏ hơn. Đây là dự án của Andrej Karpathy, nhà nghiên cứu AI từng đồng sáng lập OpenAI, dẫn dắt AI tại Tesla và gần đây gia nhập Anthropic.
Prime Intellect là startup làm gì và đã gọi vốn được bao nhiêu?
Prime Intellect là startup cung cấp nền tảng huấn luyện mô hình AI tùy chỉnh cho từng nhiệm vụ cụ thể, với mục tiêu dân chủ hóa công nghệ tự cải thiện đệ quy. Công ty đã nhận được khoản đầu tư 15 triệu USD.
Mô hình Frontier_Paper_Curator được tạo ra như thế nào?
Mô hình này được xây dựng qua nền tảng Prime Intellect, sử dụng khoảng 100 mục bản tin AI làm dữ liệu gốc. Claude hỗ trợ tổng hợp thêm dữ liệu, một mô hình riêng đánh giá đầu ra, và học tăng cường được dùng để tiếp tục cải thiện - tất cả hoàn thành trong chưa đầy một ngày.
Rủi ro khi phụ thuộc vào mô hình AI frontier tập trung là gì?
Khi Anthropic chặn một số yêu cầu trên mô hình Fable 5, điều này cho thấy nguy cơ mất quyền kiểm soát khi chỉ dựa vào một nhà cung cấp duy nhất. CEO Palantir Alex Karp cũng cảnh báo rằng dùng mô hình frontier đồng nghĩa với việc nhượng lại dữ liệu và quyền kiểm soát công nghệ.
Nguồn tham khảo
Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Thị Trường Kinh Tế.
