Xử lý ngôn ngữ tự nhiên - Khoa học máy tính tập 36 _ Tri thức nhân loại

Tri Thức
64 người theo dõi
2 Lượt xem video·27 thg 11, 2024
Sử lý ngôn ngữ tự nhiên
Khoa học máy tính
Tập 36
Hôm nay, chúng ta sẽ nói về cách cung cấp cho máy tính khả năng hiểu ngôn ngữ.
Bạn có thể tranh luận rằng, máy tính đã luôn có khả năng này.
Quay lại tập 9-32, chúng ta đã nói về các câu lệnh, ngôn ngữ máy, cũng như các ngôn ngữ lập trình cấp cao hơn.
Mặc dù chúng chắc chắn đáp ứng định nghĩa của một ngôn ngữ,
chúng cũng có xu hướng có các từ vận nhỏ và tuân theo các quy ước cỏ cấu trúc cao.
Má lệnh sẽ chỉ được biên dịch và chạy nếu nó không có lỗi chính tả và củ pháp.
Tất nhiên, điều này hoàn toàn khác với ngôn ngữ của con người.
Thứ được gọi là ngôn ngữ tự nhiên, chứa các từ vận lớn, đa dạng,
các từ có một số nghĩa khác nhau, người nói với các trọng âm khác nhau,
và tất cả các kiểu chờ chữ thú vị.
Mọi người cũng tạo ra sự giả dối về ngôn ngữ khi biết và nói,
như nói nhảm các từ với nhau, bỏ sót các chi tiết chính,
để mọi thứ trở nên mơ hồ và phát âm sai.
Nhưng phần lớn, con người có thể vượt qua những thử thách này.
Việc sử dụng khéo léo ngôn ngữ là một phần chính yếu tạo nên con người chúng ta.
Và vì lý do này, mong muốn máy tính hiểu và nói ngôn ngữ của chúng ta
đã có từ khi máy tính được hình thành lần đầu tiên.
Điều này dẫn đến sự ra đời của Sử lý ngôn ngữ tự nhiên,
hay NLP, một lĩnh vực liên ngành kết hợp giữa khoa học máy tính và ngôn ngữ học.
Về cơ bản, có vô số cách để sắp xếp các từ trong một câu.
Chúng ta không thể cung cấp cho máy tính một cuốn từ điển
về tất cả các câu có thể có để giúp chúng hiểu con người đang nói gì.
Vì vậy, một vấn đề cơ bản và ban đầu của Sử lý ngôn ngữ tự nhiên
là giải cấu trúc các câu thành các mảnh nhỏ có thể dễ dàng xử lý hơn.
Ở trường, bạn đã học về 9 loại từ cơ bản trong tiếng Anh.
Danh từ, đại từ, máu từ, động từ, tính từ, trạng từ, giới từ, liên từ và tháng từ.
Chúng được gọi là các phần của ngôn ngữ.
Có tất cả các loại danh một phụ, như danh từ số ít, danh từ số nhiều,
trạng từ so sánh nhất và trạng từ so sánh hơn.
Nhưng chúng ta sẽ không đi sâu vào vấn đề đó.
Biết loại từ chắc chắn hữu ích.
Nhưng thật không may, có rất nhiều từ có nhiều nghĩa,
chẳng hạn như từ rose và leaves có thể được sử dụng như danh từ hoặc động từ.
Chỉ một từ điển kỹ thuật số là không đủ để giải quyết sự mơ hồ này.
Vì vậy, máy tính cũng cần biết một số ngữ pháp.
Vì vậy, các quy tắc cấu trúc cụm từ đã được phát triển,
đóng gói ngữ pháp của một ngôn ngữ.
Ví dụ, trong tiếng Anh, có một quy tắc nói rằng
một câu có thể bao gồm một cụm danh từ, theo sao là một cụm động từ.
Các cụm danh từ có thể là một mạo từ như the, theo sao là một danh từ,
hoặc chúng có thể là một tính từ theo sao bởi một danh từ.
Và bạn có thể đưa ra các quy tắc như thế này cho toàn bộ ngôn ngữ.
Sau đó, bằng cách sử dụng các quy tắc này,
khá dễ dàng để xây dựng cái được gọi là cây phân tích củ pháp.
Không chỉ gắn thẻ mỗi từ với một phần có thể có của lời nói,
mà còn cho biết cách cấu trúc câu.
Ví dụ, bây giờ chúng ta biết rằng
trọng tâm danh từ của câu này là The Mongols,
và chúng ta biết rằng họ đang thực hiện hành động rising từ một thứ gì đó.
Trong trường hợp này là Beams.
Những phần dữ liệu nhỏ hơn này
cho phép máy tính dễ dàng truy cập, xử lý và phản hồi thông tin hơn.
Các quy trình tương tự đang diễn ra
mỗi khi bạn thực hiện tiềm kiếm bằng giọng nói.
Chẳng hạn như Where's the nearest pacer?
Máy tính có thể nhận ra rằng đây là một câu hỏi Where?
biết bạn muốn danh từ pacer,
và khoảng cách mà bạn quan tâm là nearest.
Quy trình tương tự cũng áp dụng cho
What is the biggest giraffe?
hoặc Who sang Thriller?
Bằng cách coi ngôn ngữ gần giống như trò chơi lắp ráp Lego,
máy tính có thể khá thành thạo
trong các nhiệm vụ ngôn ngữ tự nhiên.
Chúng có thể trả lời các câu hỏi
và cũng xử lý các lệnh bằng giọng nói,
chẳng hạn như đặt báo thức lúc 5h20.
Tuy nhiên, như bạn có thể đã trải qua,
máy tính thất bại khi bạn bắt đầu nói những câu quá phức tạp.
Khi đó, máy tính không còn có thể phân tích câu chính xác
hoặc nắm bắt được ý định của bạn.
Chẳng hạn như bạn nói với Siri như thế này
Hey Siri, me thinks the mongoose does roam too much.
What do you think y'all on this most gentleman summer's day?
Và Siri sẽ trả lời bạn như vầy
I'm not sure I got that.
Tôi cũng cần lưu ý rằng,
các quy tắc cấu trúc cụm từ
và các phương pháp tương tự để mã hóa ngôn ngữ
có thể được máy tính sử dụng
để tạo văn bản ngôn ngữ tự nhiên.
Điều này đặc biệt hiệu quả
khi dữ liệu được lưu trữ
trong một trang web thông tin thuộc ngôn ngữ học
nơi các thực thể được liên kết với nhau
trong các mối quan hệ có ý nghĩa,
cung cấp tất cả các thành phần bạn cần
để tạo ra các câu thông tin.
Phiên bản này của Google
được gọi là Shoddle Tri Thất.
Vào cuối năm 2016,
nó chứa đựng khoảng 70 tỷ dữ kiện
và mối quan hệ giữa các thực thể khác nhau.
Hai quy trình này
phân tích củ pháp và tạo văn bản
là thành phần cơ bản của Chatbots
ngôn ngữ tự nhiên.
Chatbots là các chương trình máy tính
trò chuyện với bạn.
Chatbots ban đầu chủ yếu dựa trên quy tắc
mà các chuyên gia sẽ mã hóa hàng trăm
quy tắc ánh xạ, những gì người dùng
có thể nói, về cách một chương trình sẽ trả lời.
Rõ ràng, kỹ thuật này
là khó sử dụng để duy trì
và hạn chế sự tinh vi có thể có.
Một ví dụ ban đầu nổi tiếng
là Elisa, được tạo ra
vào giữa những năm 1960
tại MIT. Đây là một
Chatbot, đảm nhận vai trò của một nhà tri liệu
và sử dụng các quy tắc
củ pháp cơ bản để xác định
nội dung trong các cuộc trao đổi bằng văn bản.
Nó sẽ quay lại và hỏi người dùng.
Đôi khi, chúng ta cảm thấy
rất giống như đang giao tiếp
giữa con người với con người.
Nhưng thỉnh thoảng, Chatbots sẽ mất những lỗi
đơn giản và thậm chí là hài hước.
Chatbots
và các hệ thống hội thoại tiên tiến hơn
đã đi một chặng đường dài trong 50 năm qua
và có thể khá thuyết phục ngày nay.
Các phương pháp tiếp cận hiện đại
dựa trên máy học, trong đó hàng
gigabyte dữ liệu từ các cuộc trò chuyện
giữa người với người thật được sử dụng
để đào tạo các Chatbots.
Ngày nay, công nghệ này
đang được sử dụng trong các ứng dụng dịch vụ
khách hàng, nơi đã có hàng đống
cuộc trò chuyện mẫu để học hỏi.
Mọi người cũng đã dùng Chatbots để nói chuyện
với người khác, và trong một thử nghiệm
của Facebook, Chatbots
thậm chí còn bắt đầu phát triển ngôn ngữ
của riêng chúng. Thử nghiệm này
nhận được sự bình luận nghe có vẻ đáng sợ
từ một loạt báo chí, nhưng đó
chỉ là các máy tính đang tạo ra
một giao thức đơn giản để thương lượng với nhau.
Nó không xấu xa,
nó hiệu quả, nhưng điều gì
sẽ xảy ra nếu một cái máy tính nói được?
Làm thế nào một máy tính
chuyển từ ngữ thành âm thanh?
Đó là lĩnh vực nhận dạng giọng nói,
đã là trọng tâm nghiên cứu
trong nhiều thập kỷ.
Bell Labs ra mắt hệ thống nhận dạng
giọng nói đầu tiên vào năm 1952,
có biệt danh là Audrey,
hệ thống nhận dạng chữ số tự động.
Nó có thể nhận ra tất cả
10 chữ số nếu bạn nói đủ chậm.
5
9
7. Dự án này không đi đến đâu
vì nhập số điện thoại bằng ngón tay
nhanh hơn nhiều.
10 năm sau, tại Hội chợ Thế giới
năm 1962, IBM
đã trình diễn một chiếc máy
cỡ hộp đựng dây có khả năng nhận dạng
16 từ. Để thúc đẩy
nghiên cứu trong khu vực, DARPA
đã khởi động một sáng kiến tài trợ 5 năm
đầy tham vọng vào năm 1971,
dẫn đến sự phát triển
của Harpy tại Đại học Carnegie Mellon.
Harpy là hệ thống
đầu tiên nhận dạng hơn 1.000 từ.
Tuy nhiên, trên các máy tính
tại thời kỳ đó, sự chuyển đổi
từ lời nói thành âm thanh thường chậm hơn
May mắn thay, nhờ những tiến bộ
to lớn về hiệu suất máy tính
trong những năm 1980 và 90,
tính năng nhận dạng giọng nói
liên tục theo thời gian thực
đã trở nên khả thì.
Có sự đổi mới đồng thời
trong các thuật toán xử lý ngôn ngữ tự nhiên
chuyển từ các quy tắc thủ công
sang các kỹ thuật máy học có thể học tự động
từ các mô dữ liệu hiện có
của ngôn ngữ con người.
Ngày nay, các hệ thống nhận dạng giọng nói
với độ chính xác tốt nhất
đang sử dụng mạng Neuron Show
mà chúng ta đã đề cập trong tập 34.
Để biết cách hoạt động của các kỹ thuật này,
hãy xem một số giọng nói,
cụ thể là tín hiệu âm thanh.
Hãy bắt đầu bằng cách xem xét
các nguyên âm như A và E.
Đây là các dạng sóng
của hai âm thanh đó, được ghi lại
bằng microphone của máy tính.
Như chúng ta đã thảo luận trong tập 21
về tập tin và định dạng tập tin,
tín hiệu này là độ lớn
của mạng ngăn bên trong microphone
khi sóng âm thanh
làm cho nó giao động.
Theo quan điểm dữ liệu âm thanh này,
trục hoanh là thời gian
và trục tung là độ lớn
của sự rung động hoặc biên độ.
Mặc dù chúng ta có thể thấy
có sự khác biệt giữa các dạng sóng,
nhưng sẽ không quá rõ ràng
khi nói nguyên câu như thế này.
Để thực sự làm nổi bật điều này,
chúng ta cần xem dữ liệu
theo một cách hoàn toàn khác,
đó là biểu đồ quang phổ.
Theo biểu đồ này,
chúng ta vẫn có thời gian dọc theo trục hoành,
nhưng bây giờ thay vì biên độ
trên trục tung, chúng ta vẽ biểu đồ
độ lớn của các tần số khác nhau
tạo nên mỗi âm thanh.
Màu càng sáng thì thành phần tần số đó
càng lớn. Việc chuyển đổi
từ dạng sóng sang tần số này được thực hiện
bằng một hộp toán rất hay, được gọi là
Fast Fourier Transform.
Nếu bạn đã từng nhìn vào
bộ hiển thị EQ của hệ thống âm thanh nổi,
thì điều đó cũng giống như vậy.
Đó là một biểu đồ quang phổ
đang vẽ thông tin đó theo thời gian thực.
Bạn có thể nhận thấy rằng
các tín hiệu có một hình dạng gần quốc.
Đó là tất cả sự cộng hưởng
trong âm vật của tôi.
Để tạo ra các âm thanh khác nhau, tôi bóp
các hộp âm thanh quảng, miệng và lưỡi
của mình thành các hình dạng khác nhau,
giúp khuếch đại hoặc làm giảm
các âm vang khác nhau.
Chúng ta có thể thấy điều này trong tín hiệu
với những vùng sáng hơn
và những vùng tối hơn.
Nếu chúng ta làm việc theo cách của chúng ta
từ dưới lên, ghi nhãn nơi chúng ta
nhìn thấy các đỉnh trong quang phổ,
cái được gọi là Formance,
chúng ta có thể thấy hai âm thanh
có sự sắp xếp khá khác nhau.
Và điều này đúng với tất cả các nguyên âm.
Đó chính xác
là loại thông tin cho phép máy tính
nhận dạng các nguyên âm được nói,
ngay cả khi nguyên âm đó nằm trong một từ nào đó.
Những phần âm thanh này
tạo nên từ được gọi là âm vị.
Phần mềm nhận dạng giọng nói
biết tất cả các âm vị này trông như thế nào.
Trong tiếng Anh,
có khoảng 44 âm vị.
Vì vậy, giọng nói chủ yếu là sự kết hợp
của các sóng mẫu.
Sau đó, nhiệm vụ của máy tính là phải tách các từ ra,
tìm ra đâu là vị trí đầu câu
và đâu là vị trí cuối câu, v.v.
Và cuối cùng,
kết thúc bằng lời nói được chuyển thành văn bản,
cho phép thực hiện các kỹ thuật
như chúng ta đã thảo luận ở đầu tập.
Bởi vì mọi người nói
các từ theo những cách hơi khác nhau
do những thứ như trọng âm
và phát âm sai, độ chính xác của phiên âm
được cải thiện đáng kể
khi kết hợp với mô hình ngôn ngữ
chứa thống kê về trình tự của các từ.
Ví dụ, she was
rất có thể được theo sau bởi một tính từ
như happy.
Không phổ biến khi she was
được theo sau bởi một danh từ.
Vì vậy, nếu trình nhận dạng giọng nói
không chắc chắn giữa happy và harpy,
nó sẽ chọn happy
vì mô hình ngôn ngữ sẽ báo cáo
đó là lựa chọn có nhiều khả năng hơn.
Cuối cùng,
chúng ta cần nói về tổng hợp giọng nói
tức là cung cấp cho máy tính
khả năng xuất ra giọng nói.
Điều này rất giống với nhận dạng giọng nói
nhưng ngược lại.
Chúng ta có thể lấy một câu văn bản
và chi nhỏ nó thành các thành phần ngữ âm
sau đó phát lại các âm thanh đó từ loa máy tính.
Bạn có thể nghe thấy
chuỗi âm vị như thế này
với các công nghệ tổng hợp giọng nói cũ hơn
như chiếc máy vận hành bằng tay
vào năm 1937 này của Bell Labs.
Máy nói
Đến những năm 1980,
điều này đã được cải thiện rất nhiều
nhưng sự pha trộn không liên tục
và vụn vệ của các âm vị
vẫn tạo ra thứ âm thanh đặc trưng đó.
Ngày nay,
các giọng nói máy tính tổng hợp như Siri,
Cortana và Alexa
đã trở nên tốt hơn nhiều
nhưng chúng vẫn chưa hoàn toàn giống con người.
Tuy nhiên, chúng ta cũng đã gần đạt được rồi
và có khả năng
vấn đề sẽ sớm được giải quyết.
Đặc biệt là vì chúng ta hiện đang chứng kiến
sự bùng nổ của các giao diện người dùng
bằng giọng nói trên điện thoại,
trong ô tô và nhà riêng của chúng ta
và có thể sớm được cắm ngay vào tay chúng ta.
Sự phổ biến này đang tạo ra
một vòng phản hồi tích cực
nơi mọi người sử dụng tuyên tác bằng giọng nói thường xuyên hơn
do đó mang lại cho các công ty như
Google, Amazon và Microsoft
nhiều dữ liệu hơn để đào tạo hệ thống của họ.
Điều này cho phép độ chính xác tốt hơn
dẫn đến mọi người sử dụng giọng nói nhiều hơn
cho phép độ chính xác thậm chí còn tốt hơn
và vòng lập vẫn tiếp tục.
Nhiều người dự đoán rằng công nghệ giọng nói
sẽ trở thành một hình thức tuyên tác phổ biến
như màn hình, bàn tiếng, bàn du trụ
và các thiết bị đồ vào vật lý khác
mà chúng ta sử dụng ngày nay.
Đó là tiền đặc biệt tốt cho độ tốt
những cỗ máy không muốn phải du lại
với bàn tiếng để giao tiếp với toàn người.
Tuy nhiên chúng ta sẽ nói
nhiều hơn về chúng trong tập tới.
Tôi rất muốn được chia sẻ
về nhiều kiến thức khác nhau.
Hãy nhấn vào các video xuất hiện
trên màn hình hiện tại và tôi
sẽ gặp bạn ở đó.
Xin cảm ơn vì đã xem đoạn phim này
và nếu thấy thông tin hữu ích
thì vui lòng nhấn thích và đăng ký
ở bên dưới nhằm khuyến khích kênh
tạo thêm nhiều phim khác.
