Ngày 23 tháng 7, Naomi Bashkansky rời OpenAI. Ngày 24 tháng 7, cô có mặt tại Conduit với vai trò founding researcher. Chưa đầy 48 giờ. Trong giới crypto, chúng tôi gọi là 'chuyển ví': bán một đồng coin danh tiếng, mua một altcoin non trẻ. Nhưng có một điểm khác: thứ cô mang theo là uy tín nghiên cứu alignment tại OpenAI, thứ cô nhận lại là một câu chuyện 'telepathy' – AI đọc suy nghĩ, biến ý định thành prompt điều khiển agent.
Conduit tuyên bố đã thu thập 10.000 giờ dữ liệu thần kinh-ngôn ngữ từ hàng nghìn người, dùng headset đa phương thức trong lúc họ gõ, nói, đọc, nghe với một mô hình ngôn ngữ. Họ công bố một vài ví dụ zero-shot. Không benchmark tổng hợp. Không giao thức đánh giá. Không tái lập từ bên thứ ba. Nếu đây là một hợp đồng thông minh, tôi nói thẳng: Chưa thể audit. Đừng ký.
Bashkansky dành 1,5 năm ở OpenAI, làm việc trong nhóm alignment. Trong bài essay ngày 4/8, cô mô tả công việc mới: xây dựng các mô hình biến tín hiệu thần kinh không xâm lấn thành văn bản, từ đó điều khiển AI agent. Cô dự đoán một chiếc băng đô có thể giải mã ý định thô thành prompt cho AI coding agent vào năm 2027. Đến 2030, AI sẽ tiêu thụ trực tiếp các biểu diễn thần kinh. Đến 2035, công nghệ đọc-ghi hai chiều. Cô thừa nhận đây là những viễn cảnh lạc quan, không có cam kết ra mắt.
Nhưng vấn đề không nằm ở dự đoán. Vấn đề nằm ở tuyên bố dữ liệu. 10.000 giờ là một con số lớn, nhưng dữ liệu lớn không tự nó thành bằng chứng. Tôi đã thấy quá nhiều dự án crypto đưa ra TVL khổng lồ mà không công bố mã nguồn hay báo cáo audit. Conduit đang làm điều tương tự trong lĩnh vực neurotech: thu thập dữ liệu từ hàng nghìn người trước khi chứng minh rằng họ có thể giải mã được bất kỳ ai.
Hãy nhìn vào những gì Meta công bố. Hệ thống Brain2Qwerty đạt 61% độ chính xác từ trung bình, 78% cho người tham gia tốt nhất, với 9 người dùng MEG trong lúc gõ câu. Hiệu suất cải thiện log-linear khi dữ liệu tăng. Đó là một bằng chứng khoa học có giao thức, có số liệu, có tái lập. Nhưng Brain2Qwerty không decode suy nghĩ tự do. Nó decode tín hiệu vận động liên quan đến việc gõ phím – một bài toán cấu trúc rõ ràng, không phải ý định trừu tượng.
Nature Communications, với 723 người, cũng cho thấy hiệu suất tăng khi có nhiều dữ liệu EEG/MEG. Nhưng họ nghiên cứu đọc và nghe, không phải sản sinh ngôn ngữ. Độ chính xác top-1 chỉ 20% trong bài toán 50 từ. Các tác giả kết luận non-invasive brain-to-text vẫn là thách thức mở. 20% là dưới ngưỡng dùng được. Bạn không thể bảo AI coding agent sửa bug nếu hệ thống hiểu sai 80% ý định.
Vậy Conduit hơn gì? Họ có 10.000 giờ dữ liệu, nhưng không nói rõ dữ liệu được thu thập trong hoàn cảnh nào. Nếu người dùng đọc và nghe, đó là nhận thức thụ động, không phải ý định chủ động. Nếu họ gõ phím, mô hình có thể học từ tín hiệu cơ và bàn phím, không phải suy nghĩ. Đây là một kiểu nhầm lẫn tôi gặp hoài trong DeFi: người ta tưởng đang cung cấp thanh khoản, nhưng thực ra đang bị bot front-running. Trust me bro – đó không phải là bằng chứng.
Về mặt kỹ thuật, decode suy nghĩ tự do là một bài toán ill-posed. Ngôn ngữ nội tại của con người không có không gian biểu diễn chung. Khi bạn nghĩ 'quả táo', não bộ kích hoạt một mạng lưới liên quan đến hình ảnh, màu sắc, ký ức, vị giác – hoàn toàn khác với người khác. Mô hình học máy có thể học một ánh xạ từ EEG của một người sang một tập từ vựng, nhưng không có cấu trúc chung để khái quát hóa cho hàng nghìn người. Trong mật mã, chúng tôi gọi là vấn đề trusted setup. Không có trusted setup, không có bằng chứng hợp lệ cho tất cả mọi người.
Bashkansky nói kết quả cải thiện khi tăng giờ huấn luyện. Nghe giống scaling law của OpenAI. Nhưng scaling law chỉ hoạt động khi có một đại lượng đo được và một không gian học tập ổn định. Ở đây, bạn không có ground truth rõ ràng. Làm sao biết một người đang nghĩ 'chuyển 1 ETH'? Bạn chỉ có thể yêu cầu họ gõ ra, nhưng việc gõ phím tạo ra nhiễu vận động. Vòng luẩn quẩn. Nó giống như các bridge xuyên chuỗi tuyên bố xác thực chữ ký, nhưng thực ra chỉ xác thực hash do chính họ tạo ra. Không có chuẩn vàng.
Tôi không phủ nhận tiềm năng của hướng đi này. Nhưng một công ty muốn xây dựng nền tảng đọc suy nghĩ cần công bố evaluation protocol, chia tách dữ liệu train/validate/test, và cho phép bên thứ ba tái lập thí nghiệm. Trong blockchain, đó là một báo cáo audit. Không có audit report, mọi lời hứa chỉ là một whitepaper đẹp. Nếu không có benchmark, thì nó chỉ là một câu chuyện.
Điều khiến tôi chú ý không chỉ là dữ liệu, mà là cơ hội bảo mật. Bashkansky là nhà nghiên cứu alignment. Cô ấy rời OpenAI để làm một việc mà cô tin là có tác động lớn hơn. Nhưng 'telepathy' mang theo một bề mặt tấn công hoàn toàn mới. Trong AI truyền thống, bạn lo lắng về prompt injection: kẻ tấn công chèn một câu lệnh ẩn vào đầu vào khiến model làm điều sai trái. Trong telepathy, đầu vào chính là tín hiệu thần kinh. Nếu kẻ tấn công biết cách tạo ra một tín hiệu nhiễu – ví dụ, một mẫu âm thanh hoặc xung điện qua headset – họ có thể khiến bạn 'ra lệnh' cho một AI agent chuyển toàn bộ tài sản.
Vấn đề này tương tự với reentrancy. Khi tôi kiểm toán Bancor v2 vào năm 2018, tôi phát hiện ra rằng các hàm dynamic fee có thể bị gọi lại trước khi trạng thái cập nhật. Mỗi cuộc gọi tưởng chừng độc lập nhưng thực chất là một phần của một cuộc tấn công. Giống vậy, một xung thần kinh giả mạo có thể kích hoạt một hành động tưởng chừng là chủ đích của người dùng. Nếu không có cơ chế xác thực đa lớp, hệ thống sẽ tự động tin tưởng tín hiệu từ headset – một điểm mù chết người.
Tôi từng phân tích pháp y vụ hack Wormhole năm 2022: 320 triệu USD bốc hơi chỉ vì một chữ ký được xác thực sai. Kẻ tấn công không phá mã hóa. Họ khai thác một lỗ hổng logic trong quy trình xác thực. Một hệ thống telepathy cũng sẽ có những lỗ hổng logic như vậy – nhưng lần này, lỗ hổng không nằm trong code, mà nằm trong kênh giao tiếp giữa não bộ và máy móc.
Hãy đặt giả thuyết Conduit thành công. Họ có một mô hình decode ý định thành text. Người dùng đeo headband, nghĩ về một hành động, và AI agent thực hiện. Vậy thì lịch sử ý định của bạn – những gì bạn nghĩ – sẽ được lưu trữ ở đâu? Trên cloud? Trong một database? Nếu bị hack, kẻ tấn công có toàn bộ suy nghĩ riêng tư của bạn. Đây không chỉ là dữ liệu cá nhân; nó là một 'private key' sinh trắc học không thể thay đổi. Một khi bị lộ, bạn không thể tạo một địa chỉ mới. Não bộ không có seed phrase.
Tôi thấy những công ty như Conduit đang lặp lại sai lầm của các dự án crypto 2017: huy động dữ liệu và kỳ vọng trước khi chứng minh được sản phẩm. Họ dùng câu chuyện 'thần giao cách cảm' giống như những người bán 'internet of things' vào những năm 2015: ai cũng nói về nó, nhưng rất ít người giải quyết được bảo mật. Càng ít người giải quyết được thì càng dễ bị khai thác.
Nhìn vào lộ trình của Bashkansky: 2027 headband decode rough intentions; 2030 AI tiêu thụ neural representations; 2035 đọc-ghi hai chiều. Đây giống một con đường phát triển sản phẩm theo kiểu 'vẽ trước, làm sau'. Tôi không phản đối việc đặt tham vọng lớn. Nhưng tôi phản đối việc trình bày một lộ trình vô căn cứ như một luận điểm học thuật. Trong một bài phân tích bảo mật, nếu tôi đưa ra kết luận mà không có mã nguồn, không có test case, không có phép đo lặp lại, thì bản báo cáo đó không có giá trị. Cô ấy có thể là một nhà nghiên cứu giỏi. Nhưng một mình niềm tin không thể thay thế dữ liệu kiểm chứng.
Và thực tế cho thấy, ngay cả với những nghiên cứu 'gần thành công' như Brain2Qwerty, chúng ta vẫn còn cách rất xa một sản phẩm thương mại. Gõ phím là một hành động rời rạc, có chủ đích, và có không gian mẫu giới hạn: 26 ký tự, một vài dấu câu. Ý định mở của con người là một không gian vô hạn, có tính liên tục, gắn với ngữ cảnh. Decode từ một không gian vô hạn từ một tín hiệu nhiễu là một bài toán xác suất bất định. Nếu không có một tập dữ liệu có kiểm soát, kết quả sẽ mang tính nội suy, không mang tính ngoại suy – và nội suy trên dữ liệu của chính bạn thì ai cũng làm được.
Đám đông đang sợ 'AI đọc suy nghĩ'. Đó là nỗi sợ sai chỗ. Với trình độ hiện tại, AI không đọc được suy nghĩ của bạn. Nó đang cố đoán từ một đống nhiễu điện từ. Mối nguy thực sự không nằm ở việc AI hiểu bạn, mà nằm ở việc dữ liệu thần kinh của bạn bị thu thập, lưu trữ, rò rỉ và bị sử dụng như một công cụ xác thực. Một khi dữ liệu thần kinh bị lộ, bạn không thể xoay key. Não bộ không có seed phrase, không có một cụm từ khôi phục gồm 12 từ.
Nếu một hệ thống telepathy trong tương lai dùng tín hiệu não để xác thực giao dịch – ví dụ, thay vì gõ mật khẩu, bạn chỉ cần nghĩ 'duyệt' – thì kẻ tấn công chỉ cần một bản ghi EEG cũ của bạn để phát lại. Giống như một chữ ký số bị rò rỉ. Nhưng tồi tệ hơn: chữ ký số có thể thu hồi bằng cách cập nhật khóa công khai. Một dấu vết thần kinh thì tồn tại mãi. Bạn không thể nâng cấp lên 'não bộ 2.0'.
Liệu Conduit hay bất kỳ công ty neurotech nào có đang nghĩ về điều này? Trong bài essay của Bashkansky, tôi không thấy đề cập đến điều này. Cô ấy nói về tốc độ cải thiện dữ liệu, về greenfield research, về một cuộc cách mạng giao tiếp. Nhưng nếu bạn đã từng audit các giao thức tài chính, bạn biết rằng phần hấp dẫn nhất – câu chuyện về phi tập trung – thường chính là phần dễ vỡ nhất. Đo liền, đừng vẽ.
Vậy câu chuyện 'AI telepathy' này đáng giá bao nhiêu? Với tôi, nó giống một dự án pre-seed: ý tưởng lớn, đội ngũ sáng giá, nhưng thiếu hoàn toàn bằng chứng định lượng. Có thể Conduit sẽ tạo ra bước đột phá thực sự. Nhưng cho đến khi họ công bố benchmark chuẩn, mở dữ liệu đánh giá và mời bên thứ ba kiểm toán, tôi sẽ không đặt cược vào nó. Và tôi cũng sẽ không để bất kỳ ai đặt cược vào tế bào thần kinh của mình khi chưa có một hàng rào bảo mật tương đương với smart contract.
Chúng ta không cần một AI đọc được suy nghĩ. Chúng ta cần một hệ thống đủ an toàn để nếu ai đó đọc được suy nghĩ của bạn, bạn vẫn có thể chứng minh rằng đó không phải là suy nghĩ thật. Một bằng chứng không tiết lộ, nhưng có thể xác thực. Tôi đã làm việc với mật mã gần 30 năm. Tôi biết một điều: không có gì bí mật trong tương lai, ngoại trừ những gì bạn không bao giờ ghi lại. Với telepathy, mọi suy nghĩ đều có thể bị ghi lại. Hãy chuẩn bị cho viễn cảnh đó.
