Hồi quy đa thức có trọng số Python

Hồi quy tuyến tính có trọng số cục bộ là phương pháp hồi quy phi tham số kết hợp học máy dựa trên k-láng giềng gần nhất. Nó được gọi là trọng số cục bộ vì đối với một điểm truy vấn, chức năng được tính gần đúng trên cơ sở dữ liệu gần điểm đó và được tính trọng số vì phần đóng góp được tính trọng số theo khoảng cách của nó từ điểm truy vấn

Locally Weighted Regression [LWR] là một thuật toán dựa trên bộ nhớ, không tham số, có nghĩa là nó lưu giữ dữ liệu đào tạo một cách rõ ràng và sử dụng nó cho mỗi lần đưa ra dự đoán

Để giải thích hồi quy tuyến tính có trọng số cục bộ, trước tiên chúng ta cần hiểu hồi quy tuyến tính. Hồi quy tuyến tính có thể được giải thích bằng các phương trình sau

 

Đặt [xi, yi] là điểm truy vấn, sau đó để tối thiểu hóa hàm chi phí trong hồi quy tuyến tính

by calculating 
 so, that it minimize the above cost function.

Our output will be: 

Do đó, công thức tính \theta cũng có thể là

trong đó, beta là vectơ của vectơ tuyến tính, X, Y là ma trận và vectơ của tất cả các quan sát

Đối với hồi quy tuyến tính có trọng số cục bộ

by calculating

so, that it minimize the above cost function.

Our output will be: 

Ở đây, w[i] là trọng số liên quan đến mỗi lần quan sát dữ liệu huấn luyện. Nó có thể được tính theo công thức đã cho

Hoặc điều này có thể được biểu diễn dưới dạng phép tính ma trận

Tác động của băng thông

trong đó x[i] là quan sát từ dữ liệu huấn luyện và x là một điểm cụ thể để tính khoảng cách và T[tau] là băng thông. Ở đây, T[tau] quyết định mức độ phù hợp của hàm, nếu hàm phù hợp chặt chẽ, giá trị của nó sẽ nhỏ. Vì vậy,

sau đó, chúng ta có thể tính \theta bằng phương trình sau

Thực hiện

• Để thực hiện điều này, chúng tôi sẽ sử dụng hiệu ứng bokeh. Nếu bạn muốn biết chi tiết các chức năng của hiệu ứng bokeh, vui lòng xem bài viết này

Python3

60

61

62

0

1

61

3

0

5

61

7

0

9

61

by calculating

so, that it minimize the above cost function.

Our output will be: 

1

by calculating

so, that it minimize the above cost function.

Our output will be: 

2____23

by calculating

so, that it minimize the above cost function.

Our output will be: 

4

by calculating

so, that it minimize the above cost function.

Our output will be: 

5

by calculating

so, that it minimize the above cost function.

Our output will be: 

6

by calculating

so, that it minimize the above cost function.

Our output will be: 

7

 

by calculating

so, that it minimize the above cost function.

Our output will be: 

8

by calculating

so, that it minimize the above cost function.

Our output will be: 

9

0

1

2

1

4

5

6

7

8

1

0

5

2

3

4

1

1

7

1

9

5

1

2

3

1____55

5

7

1

9

1

1

1

3

4

 

5

by calculating

so, that it minimize the above cost function.

Our output will be: 

9

7

1

3

600_______1601

602

603

604

2

2

607

608

5

7

by calculating

so, that it minimize the above cost function.

Our output will be: 

7

612

613

603

607

2

617

2

2

607

621

 

622

by calculating

so, that it minimize the above cost function.

Our output will be: 

9

624

1____1626

1

628

5

00

603

02

03

02

05

5

07

by calculating

so, that it minimize the above cost function.

Our output will be: 

7

1

10

5

12

13

4

15

16

 

1

18

5

20

5

22

23

5

22

by calculating

so, that it minimize the above cost function.

Our output will be: 

7

1

28

5

30

by calculating

so, that it minimize the above cost function.

Our output will be: 

2

32

1

34

5

36

02

by calculating

so, that it minimize the above cost function.

Our output will be: 

7

1

40

5

607

43

5

45

by calculating

so, that it minimize the above cost function.

Our output will be: 

7

1

1

3

18

 

51

52

5

54

 

55

0

5

00

603

02

03

02

05

5

65

66

5

68

69

70

2

2

02

603

7

by calculating

so, that it minimize the above cost function.

Our output will be: 

7

 

77

0

79

5

81

5

36

7

85

5

65