« Etik-AI | Main | Resampling - Statistik utan tårar »

juli 10, 2003

Farliga rekommenderare

Jag är en sucker för "rekommenderare" (recommender systems), och använder ofta t.ex. Amazons bokrekommenderare, både den generella "Customers who bought this item (se t.ex. en av mina favoritböcker i ämnet data mining), och den imponerande personliga rekommenderaren (som dock kräver inloggning). Även bokus har ett rekommenderarsystem, men det är inte riktigt lika imponerande som Amazons.


För ett tag sedan rapporterades om en undersökning,
Recommenders can skew results , om tillförlitligheten i liknande system och hur de kan påverka användarna av dem. Några citat:

Displaying a prediction introduces bias, said Joseph Konstan, an associate professor of computer science and engineering at the University of Minnesota. "Lying by [skewing rankings] higher or lower... biases the subsequent rating in that direction," he said. "Even the 'correct' rating led people to select that value more often."
....
The distortion this chain of events induces may influence consumer buying in the short-term, but adversely affects long-term consumer trust in the system, said Konstan. "While a system can get away with a small degree of lying... in the long run dishonesty erodes trust and satisfaction," he said.

Se även Good Ratings Gone Bad.

Ett annat exempel hur rekommenderare påverkar ens val, är Dived we Stand??? där det görs en liten undersökning om köptendensen av politiska böcker: It appears that echo chambers have emerged that repeat a consistent message within each cluster. Ron Burt, a leading network expert, explains that a tightly closed network "amplifies predispositions, creating a structural arthritis in which people cannot learn what they do not already know"[PDF...]. With no direct bridges between the clusters, these divisions are unlikely to change any time soon.

För mer om rekommenderare / collaborative filtering, se t.ex.:

Posted by hakank at juli 10, 2003 09:43 FM Posted to Machine learning/data mining | Rekommendationssystem