Mạng nơ ron
4 posters
Mechatronics :: HỌC TẬP :: Trao đổi :: Tin học
Trang 1 trong tổng số 1 trang
Mạng nơ ron
Em xin viết ra mấy cái em tìm hiểu được về nơron, có bác nào thích thú thì anh em trao đổi!
Nơ ron tron 20 phút
Phút 1:
- Mục tiêu ban đầu: để nhận biết và phân biệt đối tượng.
Ngta thấy: quá trình nhận biết gồm phần học và phần nhận biết. Như con người, thì lúc đầu học xem cái đó nó là cái j, lần sau mới nhận biết được. Từ đó, ngta nghĩ ra cái gọi là mạng nơ ron.
- Mạng nơ ron là mô hình gọi ra để cho dễ hình dung, thực ra thì mình vẫn dùng mảng, ma trận, và thao tác các phép toán trên cái này để đạt được mục đích là phân biệt đối tượng. Như vâỵ, công cụ ở đây là đại số tuyến tính, và một số phương pháp để tìm cực đại cực tiếu, xấp xỉ.. của hàm đa biến.
Ví dụ: có 1 cái ảnh
Thì có thể mô tả thành 1 mảng là: [0 1 1 0 0…..] gì đó. Đưa mảng này vào 1 cái hàm nào đó để xem xem cái mảng này có phải là hình số 1 không.
Cái hàm đó nó mô tả theo dạng này:
a=f(wp+b)
Cứ các cái hàm này mà xếp lên thì sẽ ra thành 1 cái gọi là mạng. các cái ô có chữ f thường là các hàm đơn giản kiểu như: f(n)= 1 nếu n>=0; f(n)=0 nếu n<0;
Cái p là đầu vào, a là đầu ra. Còn w và b thì là trọng số.
Nói chung trăn trở của bọn làm nơ ron là tìm w và b dựa vào các mẫu đầu vào trong quá trình học, để từ đó đưa ra được cái mạng nơ ron. Khi có mạng nơ ron rồi thì cứ ốp vào là nó phân biệt cho mình thôi!
Vậy tóm lại là: học cách tìm w và b với 1 tập hợp các cái mẫu có sẵn!
Nơ ron tron 20 phút
Phút 1:
- Mục tiêu ban đầu: để nhận biết và phân biệt đối tượng.
Ngta thấy: quá trình nhận biết gồm phần học và phần nhận biết. Như con người, thì lúc đầu học xem cái đó nó là cái j, lần sau mới nhận biết được. Từ đó, ngta nghĩ ra cái gọi là mạng nơ ron.
- Mạng nơ ron là mô hình gọi ra để cho dễ hình dung, thực ra thì mình vẫn dùng mảng, ma trận, và thao tác các phép toán trên cái này để đạt được mục đích là phân biệt đối tượng. Như vâỵ, công cụ ở đây là đại số tuyến tính, và một số phương pháp để tìm cực đại cực tiếu, xấp xỉ.. của hàm đa biến.
Ví dụ: có 1 cái ảnh
Thì có thể mô tả thành 1 mảng là: [0 1 1 0 0…..] gì đó. Đưa mảng này vào 1 cái hàm nào đó để xem xem cái mảng này có phải là hình số 1 không.
Cái hàm đó nó mô tả theo dạng này:
a=f(wp+b)
Cứ các cái hàm này mà xếp lên thì sẽ ra thành 1 cái gọi là mạng. các cái ô có chữ f thường là các hàm đơn giản kiểu như: f(n)= 1 nếu n>=0; f(n)=0 nếu n<0;
Cái p là đầu vào, a là đầu ra. Còn w và b thì là trọng số.
Nói chung trăn trở của bọn làm nơ ron là tìm w và b dựa vào các mẫu đầu vào trong quá trình học, để từ đó đưa ra được cái mạng nơ ron. Khi có mạng nơ ron rồi thì cứ ốp vào là nó phân biệt cho mình thôi!
Vậy tóm lại là: học cách tìm w và b với 1 tập hợp các cái mẫu có sẵn!
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Re: Mạng nơ ron
Phút 1 khá ngắn gọn, súc tích, rõ ràng.
Một số câu hỏi của phút 1:
[1] Mục tiêu: nhận biết và phân biệt đối tượng. Ok.
Nhưng nó thường áp dụng ở đâu: vân tay, hình ảnh tĩnh, động... ?
[2] Cái hình trên là mô hình chung ?
Một số câu hỏi của phút 1:
[1] Mục tiêu: nhận biết và phân biệt đối tượng. Ok.
Nhưng nó thường áp dụng ở đâu: vân tay, hình ảnh tĩnh, động... ?
[2] Cái hình trên là mô hình chung ?
New- Thiếu tá
- Tổng số bài gửi : 174
Registration date : 20/11/2008
Re: Mạng nơ ron
New đã viết:Phút 1 khá ngắn gọn, súc tích, rõ ràng.
Một số câu hỏi của phút 1:
[1] Mục tiêu: nhận biết và phân biệt đối tượng. Ok.
Nhưng nó thường áp dụng ở đâu: vân tay, hình ảnh tĩnh, động... ?
[2] Cái hình trên là mô hình chung ?
[1] . Nó áp dụng cho các bài toán nhận diện nói chung. Vi đầu vào của nó là số, nên cái gì cứ số hóa được là nó ốp vào thôi. Ví dụ: nếu có cái sensor đo mùi chẳng hạn, thì cũng vô tư. Để phân biệt táo với cam thì đầu vào có thế là p=[mùi hìnhdạng da]=[1 -1 1]. Trong đó quy định là mùi như táo thì có giá trị 1, mùi như cam có giá trị -1.... Tóm lại là cái gì số hóa được thì nó phân biệt được.
Tất nhiên là đi kèm với nhận diện thì sẽ có thêm bài toán khôi phục dữ liệu, vì 2 cái này rất gần nhau: như kiểu cái hình số 1 kia mà bị mờ vài pixel thì nó sẽ khôi phục được. Kết quả ra khá bất ngờ! Và hoàn toàn dùng matlab để test được!
[2]. Cái trên mới chỉ nói về 1 cái nơron nói chung. Tức là như 1 tế bào của não. Như vậy mình cần kết nối bọn này lại với nhau để giải quyết những vấn đề phức tạp hơn.
PS. Gọi là nơ-ron, vì nó dùng mô hình của nơ ron trong não để đưa ra các giải thuật.
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Re: Mạng nơ ron
Xong phút 1', chờ phút 2'.
Đề nghị tutor từ phút sau trình bày có đề mục để dễ theo dõi hơn. Thanks.
Đề nghị tutor từ phút sau trình bày có đề mục để dễ theo dõi hơn. Thanks.
New- Thiếu tá
- Tổng số bài gửi : 174
Registration date : 20/11/2008
Re: Mạng nơ ron
Advisor của Mạnh lớp ĐKTĐ là Hagan, một cây đa cây đề về mạng nơron. Tác giả cuốn Neural Network Design
dat- Thượng tá
- Tổng số bài gửi : 599
Age : 37
Đến từ : US
Job/hobbies : Culi
Humor : not bad
Registration date : 13/11/2008
Re: Mạng nơ ron
dat đã viết:Advisor của Mạnh lớp ĐKTĐ là Hagan, một cây đa cây đề về mạng nơron. Tác giả cuốn Neural Network Design
Mượn lời của admin 1 4rum: Bác Đạt có thể bảo đồng chí Mạnh mời bác Hagan đó lên đây tranh luận thì tốt quá.
Thân,
OTJ
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Re: Mạng nơ ron
Ây dạ, bản thân em mời bác Mạnh lên đây cũng không mời được nữa là Hagan. Hồi xưa cũng tìm hiểu coi mấy cái trò neural này, xong rồi không đến đầu đến đũa, cũng không được cái gì. Tóm lại là quên sạch. À, kỳ sau có học môn intelligent system. Textbook xài quyển này
http://www.amazon.com/Intelligent-Systems-Optimization-Automation-Engineering/dp/1420051768
(có trên giga)
http://www.amazon.com/Intelligent-Systems-Optimization-Automation-Engineering/dp/1420051768
(có trên giga)
dat- Thượng tá
- Tổng số bài gửi : 599
Age : 37
Đến từ : US
Job/hobbies : Culi
Humor : not bad
Registration date : 13/11/2008
Re: Mạng nơ ron
Tuần sau e bắt đầu học Intelligent Mechatronic System. Chẳng biết thế nào...
htsmile- Trung tá
- Tổng số bài gửi : 247
Registration date : 12/11/2008
Re: Mạng nơ ron
Ko có syllabus à
dat- Thượng tá
- Tổng số bài gửi : 599
Age : 37
Đến từ : US
Job/hobbies : Culi
Humor : not bad
Registration date : 13/11/2008
Re: Mạng nơ ron
Ah, mọi thứ em xào lại ở đây là từ quyển của Hagan. Quyển này dùng để tự học thì quá chuẩn rồi!
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Phút 2: Perceptron Learning, Lớp…
-Về dạy cho hệ thống học, tức là đưa mẫu vào để mạng có khái niệm về những thứ cần nhận biết, thì có 2 kiểu:
+ có giám sát: tức là đưa mẫu và kết quả vào để chọn w và b. Ví dụ có các bộ mẫu: {p1,t1}: mẫu p1 với kết quả là t1; {p2,t2}: mẫu p2 với kết quả t2.
Trực quan hơn thì nó là thế này: p1=[1 0], t1=1; nghĩa là cái quả có đầu vào p1 như thế kia (hình dạng, mùi) thì nó là t1=1, tức là quả táo, chẳng hạn thế.
+Không có giám sát: tức là đưa rất nhiều cái mảng trận đầu vào p của cùng 1 quả, ví dụ là táo, để sau này nó tự biết các cái đưa vào có phải là quả táo hay không….
Nói về cái có giám sát trước đã. Cái kia tính sau.
Có cái đầu tiên cần biết là Perceptron Learning:
-1 cái mạng đơn giản có thể là thế này:
Cái hàm hardlims trả về 1 nếu đầu vào >=0, ngc lại thì trả về -1;
Vậy thì cái mạng này làm đc cái j?
Trực quan mà nói, nó có thể phân biệt các điểm trong mặt 2D. Cho 1 điểm có tọa độ [p1, p2] vào. Qua cái mạng này, dùng w và b thì có thể vẽ được đường thẳng (1 cái là...hệ số góc, 1 cái là tham số tự do, kiểu như thế), có thể phân biệt được các điểm với nhau. Ví dụ: điểm p=[p1,p2]=[2 3] là quả táo=>t1=1. Điểm p=[p1,p2] =[1 7] là quả cam t2=-1. Thì nó sẽ vẽ 1 đường phân biệt 2 cái này.
Thuật toán nó thế này:
-Chọn 1 thằng ất ơ w và b nào đó làm giá trị khởi đầu. Thường thì random đi.
-Nhét vào hàm a=hardlims(wa+b) vào xem thế nào. So sánh với giá trị thực tế mà nó phải có, tức là cái t1 đã biết.
Rồi sau đấy chỉnh dần dần theo kiểu: Wmới=Wcũ+e*p; b mới= bcũ+e; e là sai lệch đầu ra và giá trị cần đạt.
Cứ thế thì sẽ chọn được cho đến khi chọn được tham số cần phân biệt.
- Mở rộng ra thì có thể có nhiều hướng để giải quyết từ mô hình này:
+ Nếu các điểm phân biệt với nhau k phải chí 1 đường thẳng thì sao: thì sẽ nối thêm vào phía sau 1 lớp nữa chứ sao. Ví dụ: các điểm trong mặt phẳng phân biệt bởi 1 tam giác chẳng hạn. Thế thì cứ làm 3 cái đường vào. Sau đó dùng các cái logic kiểu như And hay Or để kết hợp các đường này với nhau. Với tối đa 3 lớp thì có thể biểu diễn mọi thể loại phân biệt trên đời.
À, lớp là gì? Nó có dạng thế này:
Tức là 1 lớp thì có nhiều nơ ron. Và các hàm trong 1 lớp phải là giống nhau. Vậy thì 3 lớp chỉ cần dùng….3 hàm là đủ.
+ Đây mới chỉ là 2 chiều, có thể mở rộng ra cho n chiều, tức là có thể mở rộng thêm k chỉ là màu sắc, mùi vị, hình dáng, mà còn phân biệt thêm về: cân nặng, xuất xứ, v.v
Như vậy là hoàn toàn có thể phân biệt qua qua được một số thứ đơn giản rồi!
+ có giám sát: tức là đưa mẫu và kết quả vào để chọn w và b. Ví dụ có các bộ mẫu: {p1,t1}: mẫu p1 với kết quả là t1; {p2,t2}: mẫu p2 với kết quả t2.
Trực quan hơn thì nó là thế này: p1=[1 0], t1=1; nghĩa là cái quả có đầu vào p1 như thế kia (hình dạng, mùi) thì nó là t1=1, tức là quả táo, chẳng hạn thế.
+Không có giám sát: tức là đưa rất nhiều cái mảng trận đầu vào p của cùng 1 quả, ví dụ là táo, để sau này nó tự biết các cái đưa vào có phải là quả táo hay không….
Nói về cái có giám sát trước đã. Cái kia tính sau.
Có cái đầu tiên cần biết là Perceptron Learning:
-1 cái mạng đơn giản có thể là thế này:
Cái hàm hardlims trả về 1 nếu đầu vào >=0, ngc lại thì trả về -1;
Vậy thì cái mạng này làm đc cái j?
Trực quan mà nói, nó có thể phân biệt các điểm trong mặt 2D. Cho 1 điểm có tọa độ [p1, p2] vào. Qua cái mạng này, dùng w và b thì có thể vẽ được đường thẳng (1 cái là...hệ số góc, 1 cái là tham số tự do, kiểu như thế), có thể phân biệt được các điểm với nhau. Ví dụ: điểm p=[p1,p2]=[2 3] là quả táo=>t1=1. Điểm p=[p1,p2] =[1 7] là quả cam t2=-1. Thì nó sẽ vẽ 1 đường phân biệt 2 cái này.
Thuật toán nó thế này:
-Chọn 1 thằng ất ơ w và b nào đó làm giá trị khởi đầu. Thường thì random đi.
-Nhét vào hàm a=hardlims(wa+b) vào xem thế nào. So sánh với giá trị thực tế mà nó phải có, tức là cái t1 đã biết.
Rồi sau đấy chỉnh dần dần theo kiểu: Wmới=Wcũ+e*p; b mới= bcũ+e; e là sai lệch đầu ra và giá trị cần đạt.
Cứ thế thì sẽ chọn được cho đến khi chọn được tham số cần phân biệt.
- Mở rộng ra thì có thể có nhiều hướng để giải quyết từ mô hình này:
+ Nếu các điểm phân biệt với nhau k phải chí 1 đường thẳng thì sao: thì sẽ nối thêm vào phía sau 1 lớp nữa chứ sao. Ví dụ: các điểm trong mặt phẳng phân biệt bởi 1 tam giác chẳng hạn. Thế thì cứ làm 3 cái đường vào. Sau đó dùng các cái logic kiểu như And hay Or để kết hợp các đường này với nhau. Với tối đa 3 lớp thì có thể biểu diễn mọi thể loại phân biệt trên đời.
À, lớp là gì? Nó có dạng thế này:
Tức là 1 lớp thì có nhiều nơ ron. Và các hàm trong 1 lớp phải là giống nhau. Vậy thì 3 lớp chỉ cần dùng….3 hàm là đủ.
+ Đây mới chỉ là 2 chiều, có thể mở rộng ra cho n chiều, tức là có thể mở rộng thêm k chỉ là màu sắc, mùi vị, hình dáng, mà còn phân biệt thêm về: cân nặng, xuất xứ, v.v
Như vậy là hoàn toàn có thể phân biệt qua qua được một số thứ đơn giản rồi!
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Re: Mạng nơ ron
Nam tự học cái này hay là trong khuôn khổ project hay class nào?
dat- Thượng tá
- Tổng số bài gửi : 599
Age : 37
Đến từ : US
Job/hobbies : Culi
Humor : not bad
Registration date : 13/11/2008
Re: Mạng nơ ron
dat đã viết:Nam tự học cái này hay là trong khuôn khổ project hay class nào?
Nó là môn học mà. 5 trình đấy! Thế có sai sót j à?
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Re: Mạng nơ ron
Ko, thấy post lên công phu. Nên nghĩ nếu tự học mà làm thế thì đúng là nỗ lực
dat- Thượng tá
- Tổng số bài gửi : 599
Age : 37
Đến từ : US
Job/hobbies : Culi
Humor : not bad
Registration date : 13/11/2008
Re: Mạng nơ ron
Cống hiến là hạnh phúc mà! :">dat đã viết:Ko, thấy post lên công phu. Nên nghĩ nếu tự học mà làm thế thì đúng là nỗ lực
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Re: Mạng nơ ron
Môn intelligent system của mình chắc bị cancel rồi. Môn mới mở kỳ này, được có 5 mống đăng ký nên vừa nhận thông báo có nguy cơ cancel.
Giờ đang phân vân chọn embedded hay mechatronics. Định học mechatronics nhưng sợ giờ chưa đủ trình :-s
Giờ đang phân vân chọn embedded hay mechatronics. Định học mechatronics nhưng sợ giờ chưa đủ trình :-s
dat- Thượng tá
- Tổng số bài gửi : 599
Age : 37
Đến từ : US
Job/hobbies : Culi
Humor : not bad
Registration date : 13/11/2008
Re: Mạng nơ ron
Môn nào chả cần mà. Trc sau j chả học. Chưa đủ trình thì lại embedded thoai
Komm lieber Mai- Admin
- Tổng số bài gửi : 855
Registration date : 12/11/2008
Re: Mạng nơ ron
Uh, thì đúng là trước sau gì chả học. Có khi thế thật, mà môn mechatronics advisor dạy, còn embedded thì bên EE dạy. Nên cũng phân vân, nhưng chắc embedded thôi. Học chưa chuẩn nhảy vào học ngu advisor chửi cho càng chết
dat- Thượng tá
- Tổng số bài gửi : 599
Age : 37
Đến từ : US
Job/hobbies : Culi
Humor : not bad
Registration date : 13/11/2008
Mechatronics :: HỌC TẬP :: Trao đổi :: Tin học
Trang 1 trong tổng số 1 trang
Permissions in this forum:
Bạn không có quyền trả lời bài viết
|
|