Khám Phá Chiến Thuật Đánh Bại AI Trong Cờ Vây Thực Tế

Chiến thuật bất ngờ đánh bại hệ thống AI cờ vây hàng đầu với những phương pháp đơn giản nhưng hiệu quả.

Cờ vây đã trở thành lĩnh vực đầu tiên mà trí tuệ nhân tạo (AI) vượt qua con người. Trước năm 2016, các cao thủ cờ vây vẫn có thể tự tin đối đầu với những AI mạnh nhất. Tuy nhiên, sự xuất hiện của AlphaGo từ DeepMind đã thay đổi tất cả, khi nó sử dụng mạng nơ-ron học sâu để tự rèn luyện và chơi ở trình độ mà con người khó lòng sánh kịp. Gần đây, KataGo, một hệ thống AI chơi cờ vây mã nguồn mở, cũng đã nổi lên và dễ dàng đánh bại nhiều kỳ thủ hàng đầu.

AlphaGo từng khiến nhiều kỳ thủ con người “ôm hận”.

Gần đây, một nhóm các nhà nghiên cứu đã đưa ra một chiến thuật có khả năng đánh bại KataGo bằng cách tận dụng những điểm yếu của hệ thống này. Họ phát hiện ra rằng việc thực hiện những nước đi không điển hình, không nằm trong khuôn khổ mà KataGo đã học có thể khiến nó thua cuộc, thậm chí trước những người chơi có kỹ năng không cao.

Theo lời của Adam Gleave, một nghiên cứu sinh tại UC Berkeley, nhóm của anh đã phát triển một chiến thuật được gọi là “chính sách đối kháng”. Đây là cách mà họ kết hợp giữa mạng nơ-ron và phương pháp cây tìm kiếm (còn được biết đến là cây tìm kiếm Monte-Carlo) để xác định nước đi tối ưu.

Dù có kỹ năng hàng đầu, KataGo vẫn không thể trải nghiệm hết mọi tình huống có thể xảy ra trong cờ vây. Điều này tạo ra một khoảng trống cho những lỗ hổng do “hành vi không mong muốn”.

“KataGo có khả năng tổng quát tốt cho nhiều chiến thuật mới, nhưng nó thường gặp khó khăn khi đối diện với những cách đánh mà nó chưa từng gặp trong quá trình luyện tập.” Ông Gleave cho biết. “Chúng tôi đã phát hiện ra một chiến lược mà KataGo rất dễ mắc phải, và có thể còn nhiều chiến lược khác tương tự.”

Chiến thuật mới khiến KataGo (quân trắng) thua dù lãnh thổ chiếm được có vẻ rộng hơn rất nhiều.

Ông giải thích rằng trong một trận đấu cờ vây, “chính sách đối kháng” bắt đầu bằng việc đặt quân cờ vào một góc nhỏ của bàn cờ. Điều này tạo ra một ví dụ mà đối thủ, điều khiển quân cờ đen, hầu hết chơi từ phía trên bên phải. KataGo (quân cờ trắng) có thể chiếm giữ phần còn lại của bàn cờ, sau đó nó đặt một số quân cờ vào khu vực riêng của mình một cách dễ dàng.

“Cách này khiến KataGo tưởng rằng nó đã giành chiến thắng,” ông Gleave chia sẻ. “Bởi vì lãnh thổ của nó lớn hơn nhiều so với đối thủ. Tuy nhiên, vùng lãnh thổ bên trái không thực sự mang lại điểm số cho nó do sự hiện diện của quân cờ đối thủ ở đó.”

Khi KataGo cảm thấy chắc chắn về chiến thắng, nó có thể thực hiện bước bỏ lượt. Điều này dẫn đến việc hai người chơi dừng lại để tính điểm sau đó. Nhưng việc tính toán không diễn ra như KataGo mong đợi. Đối thủ của nó nhận điểm cho khu vực sở hữu, trong khi KataGo lại không có điểm cho khu vực có quân cờ đen chiếm giữ.

Sau cờ vây, nhiều bộ môn cờ khác cũng đã bị AI lấn át như cờ vua, cờ tướng…

Mặc dù chiến thuật này có thể khiến KataGo gặp khó khăn, nhưng những người chơi không chuyên lại có thể đánh bại nó một cách tương đối dễ dàng. Bởi vì mục đích của chiến thuật này chính là khai thác điểm yếu mà rất ít người nghĩ tới. Điều này cho thấy một bài học thú vị rằng nhiều hệ thống AI có thể gặp khó khăn trong những tình huống tương tự.

“Nghiên cứu này cho thấy rằng các hệ thống AI dường như dễ gặp lỗi trong những tình huống mà con người có thể nhanh chóng phát hiện ra, và điều này thực sự rất quan trọng khi xem xét sự an toàn,” Gleave nhấn mạnh. “Kết quả này mặc dù hữu ích trong cờ vây, nhưng nếu xảy ra trong các hệ thống quan trọng cho sự an toàn sẽ rất đáng lo ngại.”

Hãy tưởng tượng một AI trong lĩnh vực giao thông tự lái gặp phải tình huống bất ngờ và một công nghệ nào đó có thể đánh lừa nó để thực hiện hành vi nguy hiểm. Ông Gleave nhấn mạnh rằng “nghiên cứu này cần thúc đẩy việc kiểm tra tự động tốt hơn cho các hệ thống AI để tìm ra các lỗi trong những tình huống có thể gây rủi ro.”