pegasus3390
Well-Known Member
Hãy quên những thứ như CPU, GPU, và cả FPGA đi, Google nói rằng vi xử lý Tensor Processing Unit, hay còn gọi là TPU, cho phép khả năng machine learning tiên tiến vượt trội đến 3 thế hệ. Theo như lời giới thiệu của CEO Sundar Pichai tại sự kiện I/O.
TPU là những sản phẩm bí mật của Google, nhưng Pichai nói rằng con chip này chính là bộ não của chiếc máy tính AlphaGo đã từng đánh bại Lee Sedol, nhà vô địch thế giới môn cờ vây.
Pichai không nói nhiều vào chi tiết của con chip TPU này nhưng công ty đã tiết lộ nhiều hơn về nó trong blog của mình. Họ đã đưa những con chip TPU này vào trong các trung tâm dữ liệu của mình trong hơn 1 năm qua và họ thấy rằng chúng có thể tạo ra sự gia tăng về hiệu năng cũng như tương thích tốt hơn trên mỗi watt sử dụng trong machine learning. Nó tương đương với việc tiến xa hơn đến 7 năm (tương đương với khoảng 3 thế hệ theo như định luật Moore). Hãng cho biết con chip TPU được thiết kế riêng cho các ứng dụng machine learning cho phép giảm bớt độ chính xác về tính toán, do đó cũng giảm lượng transitor cho mỗi tác vụ, điều này đồng nghĩa với việc chúng ta có thể đưa ra nhiều tác vụ hơn mỗi giây cho bộ vi xử lý, từ đó tạo ra mô hình machine learning tinh vi và mạnh mẽ hơn. Nhờ đó có thể đưa ra các kết quả mang tính “thông minh” nhanh hơn.
Những con chip TPU này có thể dễ dàng lắp vừa và các khay ổ cứng trong các trung tâm dữ liệu và hiện nay nó đang xử lý cho hệ thống RankBrain và dịch vụ Street View.
Đừng vội phủ nhận những con chip CPU hay GPU
Chúng ta vẫn chưa hiểu được chính xác TPU là gì. SGI từng tung ra một sản phẩm thương mại cũng có tên là Tensor Processing Unit trong các máy chủ của họ vào những năm 2000, trong đó nó có một vi xử lý tính hiệu điện tử Digital Signal Processor hay DSP. Một con chip DSP thực hiện những công việc lặp đi lặp lại và đơn giản cực nhanh cũng như hiệu quả. Tuy nhiên theo như những mô tả của Google thì có vẻ không liên quan.
Theo như nhà phân tích Patrick Moorhead, người tham gia vào sự kiện I/O và nghe về tiết lộ nhỏ liên quan đến con chip TPU thì ông cho rằng công ty này không hoàn toàn loại bỏ những con chip CPU và GPU truyền thống. Ông cho rằng vấn đề là con chip này không thực hiện việc nhận thông tin và ghi nhớ mà nó là tạo ra thông tin rồi lặp lại. Ông tin rằng TPU là một dạng chip tối ưu hóa cho các thuật toán machine learning và sẽ tiêu tốn nhiều năng lượng hơn khi xử lý bằng CPU hay GPU.
Về việc Google nói rằng hiệu năng của TPU có thể vượt qua tốc độ của định luật Moore đến 7 năm thì không hề nghi ngờ. Đó cũng giống như sự liên quan giữa một nhân ASIC (mạch thiết kế riêng cho tác vụ đặc trưng) với 1 CPU.
Bộ nhân ASIC là hệ thống “cứng” được tùy biến riêng để thực hiện một tác vụ cực kỳ tốt. Nhưng chúng lại không thể thay đổi như FPGA nhưng nó lại mang lại hiệu năng tốt. Ví dụ như việc giải mã một video H.265 với một CPU và một ASIC được tạo ra cho riêng tác vụ này. Một CPU thông thường tất nhiên sẽ tiêu thụ nhiều điện hơn chip ASIC dể thực hiện việc đó
Một vấn đề với các chip ASIC là nó có chi phí cũng như cố định về tác vụ. Nếu phải thay đổi thuật toán thì phải tạo ra con chip mới, không có chuyện lập trình lại. Đó là lý do mà ASIC thường chỉ được sử dụng tại các tổ chức hạn chế về ngân sách như chính phủ.
