Mở rộng mạng lưới thần kinh để học sâu. Thư viện kỹ thuật miễn phí

TIN KHOA HỌC VÀ CÔNG NGHỆ, SỰ PHÁT TRIỂN TRONG ĐIỆN TỬ
Thư viện kỹ thuật miễn phí / nguồn cấp tin tức

Mở rộng mạng lưới thần kinh để học sâu

15.10.2016

Fujitsu đã công bố phát triển một công nghệ tối ưu hóa việc sử dụng bộ xử lý đồ họa (GPU) bộ nhớ trong để hỗ trợ quy mô ngày càng tăng của mạng nơ-ron được sử dụng để cải thiện độ chính xác của máy học.

Một phương pháp để mở rộng quy mô học sâu là phân phối một mô hình mạng nơ-ron duy nhất trên nhiều máy và chạy các tính toán song song. Nhưng lượng lớn dữ liệu phải chuyển giữa các máy tính sẽ tạo ra tắc đường, làm giảm đáng kể tốc độ của các tác vụ, Fujitsu giải thích. Để tận dụng hết tiềm năng của GPU cho tính toán tốc độ cao, dữ liệu phải được lưu trữ trong bộ nhớ trong của chính bộ vi xử lý. Tuy nhiên, dung lượng này thường ít hơn dung lượng bộ nhớ của máy tính thông thường, điều này làm hạn chế khả năng mở rộng quy mô mạng nơ-ron.

Fujitsu đã phát triển công nghệ để tối ưu hóa việc sử dụng bộ nhớ và mở rộng quy mô mạng nơ-ron cho tính toán GPU đơn. Tính mới không sử dụng các phương pháp tổ chức công việc song song làm giảm tốc độ đọc một cách đáng kể. Công nghệ mới giảm dung lượng bộ nhớ cần thiết bằng cách tái sử dụng tài nguyên: nó cho phép bạn thực hiện độc lập các phép tính để tạo dữ liệu lỗi trung gian từ dữ liệu có trọng số và tính toán để tạo dữ liệu có trọng số từ dữ liệu trung gian. Khi quá trình đào tạo bắt đầu, cấu trúc của từng lớp của mạng nơ-ron được phân tích và thứ tự tính toán được thay đổi để vùng bộ nhớ chứa nhiều dữ liệu hơn có thể được tái sử dụng, công ty lưu ý.

Công ty đã sử dụng công nghệ mới như một phần của nền tảng học sâu mã nguồn mở Caffe, đo lường mức tiêu thụ của bộ nhớ GPU trong. Sau khi bắt đầu đào tạo, công nghệ sẽ phân tích cấu trúc của mạng nơ-ron và tối ưu hóa thứ tự thực hiện các phép tính và vị trí của dữ liệu trong bộ nhớ để có thể tái sử dụng vùng bộ nhớ trống. Khi được sử dụng kết hợp với AlexNet và VGGNet, mạng nơ-ron nhận dạng hình ảnh được sử dụng cho nghiên cứu khoa học, công nghệ mới của Fujitsu đã tăng quy mô của mạng nơ-ron lên đến 2 lần so với các đối tác trước đây. Như vậy, dung lượng bộ nhớ GPU trong được sử dụng đã giảm hơn 40%, theo công ty.

Có kế hoạch sử dụng công nghệ mới từ ngày 31 tháng 2017 năm XNUMX như một phần của dự án trí tuệ nhân tạo Human Centric AI Zinrai. Ngoài ra, công ty có kế hoạch sử dụng công nghệ này cùng với công nghệ đã được công bố trước đây để xử lý dữ liệu học sâu bằng cách sử dụng song song GPU.

<< Quay lại: Mèo có thể chữa lành cho con người 16.10.2016

>> Chuyển tiếp: Ong có cảm xúc và tâm trạng thất thường 15.10.2016

Tin tức khoa học công nghệ, điện tử mới nhất:

Sự tồn tại của quy luật entropy cho sự vướng víu lượng tử đã được chứng minh 09.05.2024

Cơ học lượng tử tiếp tục làm chúng ta ngạc nhiên với những hiện tượng bí ẩn và những khám phá bất ngờ. Gần đây, Bartosz Regula từ Trung tâm Điện toán Lượng tử RIKEN và Ludovico Lamy từ Đại học Amsterdam đã trình bày một khám phá mới liên quan đến sự vướng víu lượng tử và mối liên hệ của nó với entropy. Sự vướng víu lượng tử đóng một vai trò quan trọng trong khoa học và công nghệ thông tin lượng tử hiện đại. Tuy nhiên, sự phức tạp trong cấu trúc của nó khiến cho việc hiểu và quản lý nó trở nên khó khăn. Khám phá của Regulus và Lamy chứng tỏ rằng sự vướng víu lượng tử tuân theo một quy luật entropy tương tự như quy luật đối với các hệ cổ điển. Khám phá này mở ra những góc nhìn mới trong khoa học và công nghệ thông tin lượng tử, giúp chúng ta hiểu sâu hơn về sự vướng víu lượng tử và mối liên hệ của nó với nhiệt động lực học. Kết quả nghiên cứu cho thấy khả năng đảo ngược của các phép biến đổi vướng víu, điều này có thể đơn giản hóa đáng kể việc sử dụng chúng trong các công nghệ lượng tử khác nhau. Mở một quy tắc mới ... >>

Điều hòa mini Sony Reon Pocket 5 09.05.2024

Mùa hè là thời gian để thư giãn và du lịch, nhưng thường thì cái nóng có thể biến thời gian này thành một sự dày vò không thể chịu đựng được. Gặp gỡ sản phẩm mới của Sony - điều hòa mini Reon Pocket 5, hứa hẹn sẽ mang đến mùa hè thoải mái hơn cho người dùng. Sony vừa giới thiệu một thiết bị độc đáo - máy điều hòa mini Reon Pocket 5, giúp làm mát cơ thể trong những ngày nắng nóng. Với nó, người dùng có thể tận hưởng sự mát mẻ mọi lúc, mọi nơi chỉ bằng cách đeo nó quanh cổ. Máy điều hòa mini này được trang bị tính năng tự động điều chỉnh các chế độ vận hành cũng như cảm biến nhiệt độ và độ ẩm. Nhờ công nghệ tiên tiến, Reon Pocket 5 điều chỉnh hoạt động tùy thuộc vào hoạt động của người dùng và điều kiện môi trường. Người dùng có thể dễ dàng điều chỉnh nhiệt độ bằng ứng dụng di động chuyên dụng được kết nối qua Bluetooth. Ngoài ra, còn có áo phông và quần short được thiết kế đặc biệt để thuận tiện, có thể gắn một chiếc điều hòa mini. Thiết bị có thể ồ ... >>

Năng lượng từ không gian cho Starship 08.05.2024

Sản xuất năng lượng mặt trời trong không gian ngày càng trở nên khả thi hơn với sự ra đời của các công nghệ mới và sự phát triển của các chương trình không gian. Người đứng đầu công ty khởi nghiệp Virtus Solis chia sẻ tầm nhìn của mình về việc sử dụng Starship của SpaceX để tạo ra các nhà máy điện trên quỹ đạo có khả năng cung cấp năng lượng cho Trái đất. Startup Virtus Solis đã tiết lộ một dự án đầy tham vọng nhằm tạo ra các nhà máy điện trên quỹ đạo sử dụng Starship của SpaceX. Ý tưởng này có thể thay đổi đáng kể lĩnh vực sản xuất năng lượng mặt trời, khiến nó trở nên dễ tiếp cận hơn và rẻ hơn. Cốt lõi trong kế hoạch của startup là giảm chi phí phóng vệ tinh lên vũ trụ bằng Starship. Bước đột phá công nghệ này được kỳ vọng sẽ giúp việc sản xuất năng lượng mặt trời trong không gian trở nên cạnh tranh hơn với các nguồn năng lượng truyền thống. Virtual Solis có kế hoạch xây dựng các tấm quang điện lớn trên quỹ đạo, sử dụng Starship để cung cấp các thiết bị cần thiết. Tuy nhiên, một trong những thách thức quan trọng ... >>

Phương pháp mới để tạo ra pin mạnh mẽ 08.05.2024

Với sự phát triển của công nghệ và việc sử dụng ngày càng rộng rãi các thiết bị điện tử, vấn đề tạo ra nguồn năng lượng hiệu quả và an toàn ngày càng trở nên cấp thiết. Các nhà nghiên cứu tại Đại học Queensland vừa tiết lộ một phương pháp mới để tạo ra pin kẽm công suất cao có thể thay đổi cục diện của ngành năng lượng. Một trong những vấn đề chính của pin sạc gốc nước truyền thống là điện áp thấp, điều này hạn chế việc sử dụng chúng trong các thiết bị hiện đại. Nhưng nhờ một phương pháp mới được các nhà khoa học phát triển nên nhược điểm này đã được khắc phục thành công. Là một phần trong nghiên cứu của họ, các nhà khoa học đã chuyển sang một hợp chất hữu cơ đặc biệt - catechol. Nó hóa ra là một thành phần quan trọng có thể cải thiện độ ổn định của pin và tăng hiệu quả của nó. Cách tiếp cận này đã làm tăng đáng kể điện áp của pin kẽm-ion, khiến chúng trở nên cạnh tranh hơn. Theo các nhà khoa học, loại pin như vậy có một số ưu điểm. Họ có b ... >>

Nồng độ cồn của bia ấm 07.05.2024

Bia, là một trong những đồ uống có cồn phổ biến nhất, có hương vị độc đáo riêng, có thể thay đổi tùy theo nhiệt độ tiêu thụ. Một nghiên cứu mới của một nhóm các nhà khoa học quốc tế đã phát hiện ra rằng nhiệt độ bia có tác động đáng kể đến nhận thức về mùi vị rượu. Nghiên cứu do nhà khoa học vật liệu Lei Jiang dẫn đầu đã phát hiện ra rằng ở nhiệt độ khác nhau, các phân tử ethanol và nước hình thành các loại cụm khác nhau, ảnh hưởng đến nhận thức về mùi vị rượu. Ở nhiệt độ thấp, nhiều cụm giống kim tự tháp hình thành hơn, làm giảm vị cay nồng của "etanol" và làm cho đồ uống có vị ít cồn hơn. Ngược lại, khi nhiệt độ tăng lên, các cụm trở nên giống chuỗi hơn, dẫn đến mùi cồn rõ rệt hơn. Điều này giải thích tại sao hương vị của một số đồ uống có cồn, chẳng hạn như rượu baijiu, có thể thay đổi tùy theo nhiệt độ. Dữ liệu thu được mở ra triển vọng mới cho các nhà sản xuất đồ uống, ... >>

Tin tức ngẫu nhiên từ Kho lưu trữ

Tổng hợp sinh thái của urê 06.10.2023

Các nhà khoa học từ Đại học Queensland (QUT) đã công bố một phương pháp thân thiện với môi trường để tổng hợp urê phân bón nông nghiệp quan trọng. Phương pháp này cho phép sản xuất urê ở nhiệt độ phòng với mức tiêu thụ năng lượng tối thiểu, trái ngược với quy trình tổng hợp truyền thống sử dụng lượng lớn năng lượng.

Tiến sĩ Junxian Liu, tác giả chính của nghiên cứu, cùng với Giáo sư Yuantong Gu và Phó giáo sư Liangzhi Kou từ Trường Kỹ thuật, Y học và Công nghệ, đã phát hiện ra một phương pháp hiệu quả để tạo ra urê, một loại phân đạm quan trọng hỗ trợ khoảng 27% nông nghiệp toàn cầu. . Urê còn được sử dụng trong sản xuất dược phẩm, mỹ phẩm và nhựa.

Không giống như quy trình công nghiệp truyền thống đòi hỏi nhiệt độ và áp suất cao, phương pháp mới cung cấp khả năng tổng hợp urê ở nhiệt độ phòng và áp suất khí quyển. Điều này đạt được thông qua phản ứng hóa học giữa nitơ và carbon monoxide sử dụng chất xúc tác dựa trên graphene.

Cách tiếp cận này làm giảm đáng kể mức tiêu thụ năng lượng so với các phương pháp truyền thống, khiến nó trở thành một tiến bộ đầy hứa hẹn cho sản xuất urê và phân bón nói chung.

Thấy hết Lưu trữ tin khoa học công nghệ, điện tử mới

Tất cả các ngôn ngữ của trang này

Trang chủ | Thư viện | bài viết | Sơ đồ trang web | Đánh giá trang web