OpenAI sắp tung ra một tính năng nhận dạng hình ảnh AI và thông tin mới nhất cho biết công cụ phát hiện với độ chính xác cao đến 99%.
Phải nói rằng tỷ lệ chính xác này (do CTO OpenAI là Mira Murati tiết lộ) vẫn còn khiến chúng ta hoài nghi. Xét cho cùng, những nỗ lực trước đây của OpenAI trong việc phát hiện văn bản AI đã kết thúc với thất bại thảm hại về “tỷ lệ chính xác 26%” .
Tuy nhiên, vào tháng 7, công cụ này đã ngừng hoạt động một cách đáng buồn: không có bất kỳ thông báo nào, trang này trực tiếp 404.
Nguyên nhân là do tỷ lệ chính xác quá thấp, “gần giống như đoán… ”.
Theo dữ liệu do chính OpenAI công bố:
Nó chỉ xác định chính xác 26% văn bản do AI tạo ra, trong khi xác định sai 9% văn bản do con người viết.
Sau cái kết vội vàng này, OpenAI tuyên bố sẽ nỗ lực cải thiện dựa trên phản hồi của người dùng và nghiên cứu công nghệ nguồn văn bản hiệu quả hơn. Đồng thời, họ cũng thông báo rằng các công cụ để xác định xem hình ảnh, âm thanh và video có phải do AI tạo ra hay không cũng sẽ được phát triển.
Ngày nay, với sự ra đời của DALL-E 3 và sự lặp lại liên tục của các công cụ tương tự như Midjourney, khả năng vẽ tranh của AI ngày càng mạnh mẽ hơn. Mối lo ngại lớn nhất là việc nó bị lợi dụng để tạo ra những hình ảnh tin tức giả trên khắp thế giới.
Ví dụ: có một "cảnh" do AI giả mạo về "trận động đất và sóng thần Cascadia 9.1 năm 2001" trên reddit, đã được hơn 1,2 nghìn cư dân mạng thích.
So với các công cụ phát hiện văn bản AI, việc phát triển các công cụ phát hiện văn bản AI rõ ràng là cấp bách hơn (có lẽ vì “không ai quan tâm bài phát biểu do chính mình hay do thư ký viết”, nhưng cũng khó có thể không để nội dung của “hình ảnh” và sự thật" một số người tin tưởng).
Phải nói rằng tỷ lệ chính xác này (do CTO OpenAI là Mira Murati tiết lộ) vẫn còn khiến chúng ta hoài nghi. Xét cho cùng, những nỗ lực trước đây của OpenAI trong việc phát hiện văn bản AI đã kết thúc với thất bại thảm hại về “tỷ lệ chính xác 26%” .
Phát hiện nội dung AI không đơn giản
OpenAI đã lập kế hoạch trong lĩnh vực phát hiện nội dung AI. Vào tháng 1 năm nay, họ đã phát hành trình phát hiện văn bản AI để phân biệt giữa AI và nội dung do con người tạo ra nhằm ngăn văn bản AI bị lạm dụng.Tuy nhiên, vào tháng 7, công cụ này đã ngừng hoạt động một cách đáng buồn: không có bất kỳ thông báo nào, trang này trực tiếp 404.
Theo dữ liệu do chính OpenAI công bố:
Nó chỉ xác định chính xác 26% văn bản do AI tạo ra, trong khi xác định sai 9% văn bản do con người viết.
Sau cái kết vội vàng này, OpenAI tuyên bố sẽ nỗ lực cải thiện dựa trên phản hồi của người dùng và nghiên cứu công nghệ nguồn văn bản hiệu quả hơn. Đồng thời, họ cũng thông báo rằng các công cụ để xác định xem hình ảnh, âm thanh và video có phải do AI tạo ra hay không cũng sẽ được phát triển.
Ngày nay, với sự ra đời của DALL-E 3 và sự lặp lại liên tục của các công cụ tương tự như Midjourney, khả năng vẽ tranh của AI ngày càng mạnh mẽ hơn. Mối lo ngại lớn nhất là việc nó bị lợi dụng để tạo ra những hình ảnh tin tức giả trên khắp thế giới.
Ví dụ: có một "cảnh" do AI giả mạo về "trận động đất và sóng thần Cascadia 9.1 năm 2001" trên reddit, đã được hơn 1,2 nghìn cư dân mạng thích.
Tuy nhiên, khi công cụ phát hiện văn bản AI của OpenAI ngoại tuyến, một số cư dân mạng đã chỉ ra:
- Việc phát triển đồng thời các công cụ tạo và phát hiện vốn đã mâu thuẫn.
- Nếu một bên làm tốt thì bên kia lại làm không tốt và có thể xảy ra xung đột lợi ích.
- Ý tưởng đơn giản hơn là giao nó cho bên thứ ba.
- Nhưng hiệu suất của bên thứ ba trên văn bản AI trước đây không được tốt.
- Đối với bản thân công nghệ, một phương pháp khả thi khác là ẩn hình mờ khi AI tạo nội dung.
Đó là những gì Google làm.
Mới đây (cuối tháng 8 năm nay), Google đã ra mắt công nghệ nhận diện hình ảnh AI trước OpenAI: SynthID.
Nó hiện đang hoạt động với mô hình hình ảnh Imagen của Google, do đó mọi hình ảnh do mô hình tạo ra đều được nhúng với "mã nhận dạng siêu dữ liệu do AI tạo ra". Ngay cả khi hình ảnh bị cắt, thêm bộ lọc, thay đổi màu sắc hoặc thậm chí bị nén bị mất chất lượng, khả năng nhận dạng sẽ không bị ảnh hưởng.
CEO và CTO OpenAI tại Tech Live 2023
Ví dụ, thế hệ tiếp theo của các mẫu xe cỡ lớn có thể sẽ sớm được ra mắt. Tên không được tiết lộ, nhưng OpenAI đã đăng ký nhãn hiệu GPT-5 vào tháng 7 năm nay. Một số người lo ngại về tính chính xác của "GPT-5" và hỏi liệu nó có còn tạo ra lỗi hoặc nội dung sai nữa hay không.
Về vấn đề này, CTO OpenAI thận trọng hơn và chỉ nói "có thể". Cô ấy đã giải thích: Chúng tôi đã đạt được tiến bộ lớn về vấn đề ảo giác trong GPT-4, nhưng đó vẫn chưa phải là điều chúng tôi cần đến.
Đánh giá theo lời nói ban đầu của cô ấy, không có "xác nhận", nhưng nó cũng để lại không gian không giới hạn cho trí tưởng tượng:
Chúng tôi chắc chắn sẽ không làm điều này nếu chúng tôi đi theo con đường mặc định, nhưng tôi sẽ không bao giờ loại trừ nó.
Vào tháng 9 năm nay, có thông tin cựu giám đốc thiết kế của Apple Jony Ive (người đã làm việc tại Apple 27 năm) đã tiếp xúc với OpenAI. Các nguồn tin cho biết Altman muốn phát triển một thiết bị phần cứng để cung cấp cách tương tác tự nhiên và trực quan hơn với AI, có thể gọi là "iPhone của AI".
Bây giờ ông ấy nói với mọi người: Tôi vẫn chưa chắc mình muốn làm gì, tôi chỉ có một số ý tưởng mơ hồ. Không có thiết bị AI nào có thể làm lu mờ sự phổ biến của iPhone và tôi không có hứng thú cạnh tranh với bất kỳ điện thoại thông minh nào.
- Việc phát triển đồng thời các công cụ tạo và phát hiện vốn đã mâu thuẫn.
- Nếu một bên làm tốt thì bên kia lại làm không tốt và có thể xảy ra xung đột lợi ích.
- Ý tưởng đơn giản hơn là giao nó cho bên thứ ba.
- Nhưng hiệu suất của bên thứ ba trên văn bản AI trước đây không được tốt.
- Đối với bản thân công nghệ, một phương pháp khả thi khác là ẩn hình mờ khi AI tạo nội dung.
Đó là những gì Google làm.
Mới đây (cuối tháng 8 năm nay), Google đã ra mắt công nghệ nhận diện hình ảnh AI trước OpenAI: SynthID.
Nó hiện đang hoạt động với mô hình hình ảnh Imagen của Google, do đó mọi hình ảnh do mô hình tạo ra đều được nhúng với "mã nhận dạng siêu dữ liệu do AI tạo ra". Ngay cả khi hình ảnh bị cắt, thêm bộ lọc, thay đổi màu sắc hoặc thậm chí bị nén bị mất chất lượng, khả năng nhận dạng sẽ không bị ảnh hưởng.
Trong các thử nghiệm nội bộ, SynthID đã xác định chính xác một số lượng lớn hình ảnh AI đã được chỉnh sửa nhưng tỷ lệ chính xác cụ thể không được tiết lộ.
Không biết công cụ sắp tới của OpenAI sẽ sử dụng công nghệ gì và liệu nó có phải là công cụ chính xác nhất trên thị trường hay không?
Tin tức trên đến từ các bài phát biểu của CTO OpenAI và Altman tại hội nghị Tech Live do Wall Street Journal tổ chức trong tuần này. Tại buổi gặp mặt, cả hai cũng tiết lộ thêm nhiều tin tức về OpenAI.
Không biết công cụ sắp tới của OpenAI sẽ sử dụng công nghệ gì và liệu nó có phải là công cụ chính xác nhất trên thị trường hay không?
Tin tức trên đến từ các bài phát biểu của CTO OpenAI và Altman tại hội nghị Tech Live do Wall Street Journal tổ chức trong tuần này. Tại buổi gặp mặt, cả hai cũng tiết lộ thêm nhiều tin tức về OpenAI.
CEO và CTO OpenAI tại Tech Live 2023
Ví dụ, thế hệ tiếp theo của các mẫu xe cỡ lớn có thể sẽ sớm được ra mắt. Tên không được tiết lộ, nhưng OpenAI đã đăng ký nhãn hiệu GPT-5 vào tháng 7 năm nay. Một số người lo ngại về tính chính xác của "GPT-5" và hỏi liệu nó có còn tạo ra lỗi hoặc nội dung sai nữa hay không.
Về vấn đề này, CTO OpenAI thận trọng hơn và chỉ nói "có thể". Cô ấy đã giải thích: Chúng tôi đã đạt được tiến bộ lớn về vấn đề ảo giác trong GPT-4, nhưng đó vẫn chưa phải là điều chúng tôi cần đến.
Đánh giá theo lời nói ban đầu của cô ấy, không có "xác nhận", nhưng nó cũng để lại không gian không giới hạn cho trí tưởng tượng:
Chúng tôi chắc chắn sẽ không làm điều này nếu chúng tôi đi theo con đường mặc định, nhưng tôi sẽ không bao giờ loại trừ nó.
Vào tháng 9 năm nay, có thông tin cựu giám đốc thiết kế của Apple Jony Ive (người đã làm việc tại Apple 27 năm) đã tiếp xúc với OpenAI. Các nguồn tin cho biết Altman muốn phát triển một thiết bị phần cứng để cung cấp cách tương tác tự nhiên và trực quan hơn với AI, có thể gọi là "iPhone của AI".
Bây giờ ông ấy nói với mọi người: Tôi vẫn chưa chắc mình muốn làm gì, tôi chỉ có một số ý tưởng mơ hồ. Không có thiết bị AI nào có thể làm lu mờ sự phổ biến của iPhone và tôi không có hứng thú cạnh tranh với bất kỳ điện thoại thông minh nào.
Theo VN review
