Angular Steering
Xoay các vector kích hoạt trong một không gian con hai chiều để đưa biểu diễn của mô hình về phía hoặc ra xa một hành vi mục tiêu. Phương pháp can thiệp ngay trong quá trình suy luận (inference), không cần huấn luyện lại mô hình.
Nghiên Cứu
NeurIPS 2025 Spotlight · Nhóm ~3% hàng đầu
Khám Phá Cơ Chế
Khám Phá Cơ Chế
Nền Tảng Của
Trí Tuệ Nhân Tạo
Tại Torilab, chúng tôi nghiên cứu cơ chế hình thành hành vi bên trong các mô hình ngôn ngữ lớn, từ đó phát triển các phương pháp điều hướng phản hồi AI ngay trong mô hình.
Mở rộng giới hạn của AI nhận thức cảm xúc.
NeurIPS 2025 Spotlight · Nhóm ~3% hàng đầu
Điều Hướng Hành Vi
Điều Hướng Hành Vi
Bằng Hình Học
Mỗi khi AI xử lý ngôn ngữ, bên trong nó hình thành những “trạng thái” giống như các mũi tên trong không gian nhiều chiều. Một số hành vi như từ chối trả lời hay thể hiện cảm xúc ứng với một hướng nhất định. Thay vì cộng thêm hay cắt bỏ theo hướng đó, Angular Steering xoay mũi tên một góc. Nhờ vậy, hành vi được điều chỉnh liên tục như vặn một núm xoay.
Adaptive Angular Steering
Biến thể chọn lọc, chỉ xoay những vector kích hoạt cùng hướng với đặc trưng mục tiêu, giúp đầu ra ổn định và mạch lạc hơn.
Kết Quả
Thực nghiệm trên bài toán từ chối/tuân thủ và điều khiển cảm xúc, với nhiều họ mô hình, cho thấy phương pháp kiểm soát hành vi ổn định mà vẫn duy trì năng lực ngôn ngữ chung. Công trình đạt NeurIPS 2025 Spotlight · Top ~3%; việc ứng dụng vào từng sản phẩm phụ thuộc vào đánh giá kỹ thuật của từng hệ thống.
Bài Báo Nghiên CứuAngular Steering: Behavior Control via Rotation in Activation Space
Tác GiảMinh Hieu Vu (Torilab), Tan M. Nguyen (NUS)
Ghi NhậnNeurIPS 2025 · SpotlightNhóm ~3% bài nộp hàng đầu
Hướng Nghiên Cứu Cốt LõiMở Rộng Giới Hạn
Mở Rộng Giới Hạn
Của Điều Hướng Hành Vi AI
Torilab nghiên cứu cách các mô hình AI hình thành biểu diễn, tạo ra phản hồi và thay đổi hành vi. Từ những cơ chế nền tảng đó, chúng tôi phát triển các phương pháp điều hướng, hướng tới những hệ thống AI có khả năng tương tác và nhận thức cảm xúc sâu hơn.
Nghiên cứu cách các đặc trưng hành vi được biểu diễn trong không gian kích hoạt và mối liên hệ giữa những biểu diễn này với phản hồi do AI tạo ra. Đây là cơ sở để can thiệp vào hành vi ngay bên trong mô hình.
Điều chỉnh biểu diễn của mô hình theo hướng hành vi mục tiêu bằng phép xoay các vector kích hoạt trong không gian con. Công trình đạt danh hiệu Spotlight tại NeurIPS 2025.
Đầu Vào
Kích Hoạt
Angular Steering
Hành Vi
Phản Hồi
Phương pháp điều hướng có chọn lọc, công bố cùng Angular Steering tại NeurIPS 2025. Phương pháp chỉ tác động lên những vector kích hoạt cùng hướng với đặc trưng mục tiêu, giúp quá trình điều hướng ổn định và mạch lạc hơn.
Mở rộng nghiên cứu điều hướng hành vi sang các bài toán cảm xúc và tương tác đa phương thức, tạo nền tảng cho AI phản hồi phù hợp hơn với ngữ cảnh và tín hiệu từ con người.
Nguyên Tắc Nghiên CứuNghiên Cứu Có Cơ Sở.
Nghiên Cứu Có Cơ Sở.
Kết Quả Có Thể Kiểm Chứng.
Torilab theo đuổi nghiên cứu AI nền tảng bằng cách kết hợp việc tìm hiểu cơ chế bên trong mô hình với thực nghiệm có hệ thống. Chúng tôi hướng tới những phương pháp có cơ sở khoa học rõ ràng, được đánh giá trong điều kiện cụ thể và có thể tiếp tục phát triển qua nghiên cứu.
Đi Sâu Vào Cơ Chế Nền Tảng
Nghiên cứu cách các biểu diễn bên trong mô hình liên hệ với hành vi đầu ra, thay vì chỉ quan sát phản hồi ở bề mặt.
Đánh Giá Qua Thực Nghiệm
Đánh giá phương pháp trên các bài toán cụ thể, xem xét cả hiệu quả điều hướng lẫn ảnh hưởng đến hiệu năng của mô hình.
Kết Nối Khoa Học Với Công Nghệ
Phân biệt rõ kết quả thực nghiệm với năng lực đã được triển khai, đồng thời tìm kiếm khả năng chuyển hoá nghiên cứu thành ứng dụng thực tế.
Hợp Tác Nghiên CứuNghiên Cứu Cùng
Nghiên Cứu Cùng
Cộng Đồng
Học Thuật
Torilab chào đón cơ hội hợp tác với các nhà nghiên cứu, trường đại học và tổ chức học thuật cùng quan tâm đến những bài toán nền tảng của AI. Angular Steering là kết quả hợp tác giữa Torilab và nhà nghiên cứu thuộc Đại học Quốc gia Singapore (NUS). Chúng tôi mong muốn kết nối tri thức, trao đổi phương pháp và cùng khám phá những hướng nghiên cứu mới trong điều hướng hành vi AI, AI nhận thức cảm xúc và tương tác đa phương thức.