Google: chạy mô hình AI trên smartphone cực ngốn RAM

SkylerNew

Chuyên viên tin tức
Thành viên BQT
Vào đầu tháng Ba, Google đã đưa ra một thông báo bất ngờ rằng chỉ có một trong hai chiếc smartphone mới của hãng (Pixel 8 và Pixel 8 Pro) có thể chạy mô hình AI mới "Google Gemini". Mặc dù có thông số cấu hình rất giống nhau, nhưng Pixel 8 sẽ không có Google Gemini với lý do được công ty đưa ra là "những hạn chế về phần cứng".

Đó là một tuyên bố kỳ lạ khi xét đến việc Google đã thiết kế và tiếp thị Pixel 8 lấy AI làm trung tâm. Hãng này đã phát một mô hình AI dùng cho smartphpne có tên là "Gemini Nano" nhưng cuối cùng chỉ có một trong hai chiếc Pixel 8 có thể chạy mô hình Gemini.

851968_141218525156840_2330706952847360

Vào giữa tháng Ba, Google đã thông báo trên diễn đàn hỗ trợ điện thoại Pixel rằng chiếc Pixel 8 sẽ có Gemini Nano trong bản phát hành Android hàng quý vào tháng 6. Tuy nhiên, có một nhược điểm. Trên Pixel 8, Gemini Nano chỉ được phát hành “dưới dạng tùy chọn dành cho nhà phát triển”. Điều đó có nghĩa là bạn chỉ có thể bật tính năng này thông qua menu “Tùy chọn nhà phát triển” ẩn trong mục cài đặt và hầu hết mọi người sẽ bỏ lỡ tính năng này. Trong khi đó, người dùng Pixel 8 Pro có thể sử dụng Gemini Nano bình thường, không cần kích hoạt trong menu “Tùy chọn nhà phát triển” ẩn trong mục cài đặt.

Seang Chau, Phó chủ tịch phần mềm dịch vụ và thiết bị của Google, giải thích về quyết định trên trong podcast nội bộ của Google như sau: Pixel 8 Pro, có RAM 12GB, là nơi hoàn hảo để chúng tôi đặt Gemini Nano trên thiết bị và xem chúng tôi có thể làm gì. Trong khi đó, Pixel 8 vốn chỉ có RAM 8GB nên Google lo ngại sẽ làm giảm trải nghiệm.

Theo Seang Chau,việc đưa các mô hình ngôn ngữ lớn như Gemini Nano trên điện thoại sẽ có những đánh đổi lớn. Google muốn một số mô hình AI "cư trú trong RAM" để chúng luôn được tải trong bộ nhớ để đưa ra phản hồi nhanh. Một trong những tính năng cần “cư trú trong RAM” là "trả lời thông minh" tự động tạo câu trả lời bằng văn bản.

Google: chạy mô hình AI trên smartphone cực ngốn RAM

Chau nói trong podcast nội bộ của Google: "Trả lời thông minh là thứ yêu cầu các mô hình ngôn ngữ lớn phải nằm trong RAM để nó luôn khả dụng. Bạn sẽ không muốn đợi mô hình đưa ra câu trả lời quá lâu vì vậy chúng tôi giữ mô hình đó ở trong RAM. Vì lý do đó, Google đang giữ tính năng trả lời thông minh do Gemini cung cấp đằng sau developer flag (Feature Flag là kĩ thuật cho phép nhà phát triển thay đổi cách hoạt động của ứng dụng, mà không cần phải sửa code) cho cả Pixel 8 và Pixel 8 Pro. Tùy chọn "Trả lời thông minh" trong cài đặt bàn phím thông thường không được Gemini cung cấp.

Vì vậy, việc chạy một ứng dụng như Gemini Nano có thể đồng nghĩa với việc mất vĩnh viễn một phần lớn bộ nhớ hệ thống. Mức RAM cơ bản 8GB cho điện thoại Android có thể cần phải tăng thêm trong tương lai. Hiện tại, các điện thoại RAM 12-16GB khá phổ biến nhưng cũng không ít máy vẫn dùng 8GB RAM.

Mô hình Gemini Nano của Google cũng được xuất xưởng trên dòng Galaxy S24 series và phiên bản Galaxy S24 cơ bản của dòng sản phẩm này cũng có RAM 8GB. Khi Google ban đầu trích dẫn những hạn chế về phần cứng trên Pixel 8 là lý do điện thoại này không có tính năng Gemini, lời giải thích của họ thật khó hiểu: nếu mẫu Galaxy 24 với RAM 8GB có thể chạy Gemini thì Pixel 8 cũng có thể chạy được. Tuy nhiên, như Google nói, việc đưa mô hình Gemini lên điện thoại RAM 8GB thì người dùng sẽ phải đánh đổi, bị chiếm dụng bộ nhớ hệ thống lẽ ra có thể dùng cho các ứng dụng khác.

Theo VN review
 
Bên trên