HƯỚNG DẪN ứng dụng

AI trong dịch thuật ngôn ngữ ký hiệu

Dịch thuật ngôn ngữ ký hiệu AI sử dụng thị giác máy tính và học máy để biến các ngôn ngữ ký hiệu như ASL thành văn bản hoặc lời nói và đôi khi ngược lại.

Đọc trong 2 phútCập nhật lần cuối

Tổng quan

Điều này quan trọng vì nó có thể mở ra cơ hội giao tiếp hàng ngày giữa người Điếc và người nghe mà không cần có người phiên dịch.

Lặn sâu

Các ngôn ngữ ký hiệu như Ngôn ngữ ký hiệu của Mỹ (ASL) và Ngôn ngữ ký hiệu của Anh (BSL) là những ngôn ngữ hoàn toàn tự nhiên với ngữ pháp riêng, không phải phiên bản ký hiệu của tiếng Anh nói. Hệ thống dịch thuật AI ghi lại hình dạng bàn tay, chuyển động, vị trí, hướng lòng bàn tay và các điểm đánh dấu không thủ công quan trọng như nhướng mày và hình dạng miệng thay đổi ý nghĩa. Máy ảnh hoặc cảm biến độ sâu cung cấp video vào các mô hình ước tính tư thế (thường là MediaPipe Holistic) để trích xuất các điểm chính của bộ xương, sau đó mô hình trình tự này sẽ ánh xạ tới các chú giải hoặc câu. Các vấn đề khó khăn nhất là ký liên tục không có ranh giới từ rõ ràng, phương ngữ khu vực, bộ phân loại mô tả các đối tượng theo không gian và sự khan hiếm của các tập dữ liệu có chú thích lớn. Nhiều bản demo vẫn bị giới hạn ở các dấu hiệu biệt lập hơn là cuộc trò chuyện trôi chảy.

Hiểu biết kỹ thuật

Trước tiên, một quy trình chung sẽ chạy ước tính tư thế để chuyển đổi từng khung hình thành các điểm chính 2D hoặc 3D cho bàn tay, khuôn mặt và cơ thể, loại bỏ các pixel thô để đảm bảo quyền riêng tư và tốc độ. Một mô hình thời gian như máy biến áp hoặc RNN, thường được đào tạo với Phân loại thời gian kết nối (CTC), căn chỉnh chuỗi điểm chính thành nhãn bóng mà không cần chú thích theo từng khung hình. Giai đoạn dịch thuật thứ hai chuyển đổi các chú giải sang văn bản ngôn ngữ nói theo ngữ pháp.

Tác động chiến lược

Xây dựng lựa chọn

Thiết kế cấp ứng dụng xác định liệu AI có cải thiện kết quả thực tế hay không.

Nhóm và quy trình làm việc

Tích hợp quy trình làm việc tốt sẽ giúp tăng năng suất mà người dùng có thể tin tưởng.

Rủi ro và an toàn

Các trường hợp sử dụng có phạm vi phù hợp giúp giảm bớt sự mệt mỏi khi thay đổi và rủi ro triển khai.

Tương lai của AI trong dịch thuật ngôn ngữ ký hiệu

Tiến trình phụ thuộc rất nhiều vào các bộ dữ liệu lớn hơn, do cộng đồng xây dựng như How2Sign và bao gồm cả các điểm đánh dấu không thủ công mà các hệ thống hiện tại thường bỏ sót. Mong đợi sự tích hợp chặt chẽ hơn với hình đại diện đăng nhập lại, mẫu máy trên thiết bị để đảm bảo quyền riêng tư và điểm chuẩn được tiêu chuẩn hóa. Các nhà nghiên cứu ngày càng nhấn mạnh đến việc hợp tác thiết kế với cộng đồng người Điếc để các công cụ hỗ trợ thay vì thay thế người phiên dịch, đặc biệt là trong những môi trường có tính rủi ro cao như y học và luật, nơi sai sót gây ra hậu quả thực sự.

Triển khai trong thế giới thực

Một ứng dụng máy tính bảng tại quầy lễ tân của bệnh viện có chức năng nhận dạng các câu hỏi có chữ ký của bệnh nhân Điếc và hiển thị văn bản cho nhân viên

Ký tên đại diện để hiển thị thông báo ở ga xe lửa hoặc sân bay thành video ASL hoặc BSL

Các công cụ giáo dục cung cấp cho người học phản hồi tức thì về việc hình dạng bàn tay và chuyển động của họ có phù hợp với ký hiệu mục tiêu hay không

Nguyên mẫu phụ đề theo thời gian thực giúp dịch người ký tên trong cuộc gọi điện video sang phụ đề bằng ngôn ngữ nói

Rủi ro & lan can

Tự động hóa một quy trình bị hỏng có thể khuếch đại các vấn đề hiện có.

Các nhóm có thể tự động hóa quá mức và loại bỏ sự phán xét cần thiết của con người.

Chất lượng có thể thay đổi nếu kết quả đầu ra không được đánh giá liên tục.

Lộ trình thực hiện

1

Lập sơ đồ quy trình làm việc hiện tại và xác định bước có mức độ ma sát cao nhất.

2

Xác định các điểm kiểm tra của con người trước khi tự động hóa hoàn toàn.

3

Đào tạo người dùng về lời nhắc, đường dẫn leo thang và tiêu chuẩn chất lượng.

4

Theo dõi kết quả ở cấp độ nhiệm vụ để xác nhận giá trị bền vững.

Tiếp tục khám phá

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the AI in Sign Language Translation quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Bắt đầu bài kiểm tra

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Hướng dẫn tiếp theo

AI trong giải mã ngôn ngữ cổ

Câu hỏi thường gặp

AI trong dịch thuật ngôn ngữ ký hiệu là gì?

Dịch thuật ngôn ngữ ký hiệu AI sử dụng thị giác máy tính và học máy để biến các ngôn ngữ ký hiệu như ASL thành văn bản hoặc lời nói và đôi khi ngược lại. Điều này quan trọng vì nó có thể mở ra cơ hội giao tiếp hàng ngày giữa người Điếc và người nghe mà không cần có người phiên dịch.

Tại sao việc dịch ngôn ngữ ký hiệu lại khó hơn việc chỉ khớp cử chỉ với từ tiếng Anh?

Các ngôn ngữ như ASL có ngữ pháp, cấu trúc không gian và trật tự từ riêng biệt, vì vậy việc dịch thuật yêu cầu mô hình hóa ngôn ngữ thực chứ không phải tra cứu từ cử chỉ sang từ.

'Đánh dấu không thủ công' trong ngôn ngữ ký hiệu là gì?

Việc nhướn mày, nghiêng đầu và hình dạng miệng có thể biến một câu nói thành một câu hỏi hoặc thay đổi ý nghĩa, vì vậy AI phải theo dõi khuôn mặt chứ không chỉ bàn tay.

Ước tính tư thế làm gì trong một quy trình dịch dấu hiệu điển hình?

Ước tính tư thế trích xuất tọa độ điểm chính từ mỗi khung hình, cho phép mô hình hoạt động với dữ liệu khung nhỏ gọn thay vì pixel thô.

Tại sao việc ký liên tục lại đặc biệt khó khăn đối với AI?

Khi ký trôi chảy, các dấu hiệu hòa trộn với nhau mà không có ranh giới rõ ràng, khiến việc phân đoạn và căn chỉnh trở nên khó khăn, đó là lý do tại sao các kỹ thuật như CTC được sử dụng.

Tại sao nhiều chuyên gia khuyên bạn nên đồng thiết kế những công cụ này với cộng đồng người Điếc?

Ý kiến ​​đóng góp của cộng đồng người khiếm thính giúp tránh các hệ thống không chính xác hoặc thiếu nhạy cảm về mặt văn hóa và giữ các công cụ làm công cụ hỗ trợ thay vì thay thế cho phiên dịch viên của con người.