Met machines meer mens: samen sterk in onderhandelen Mijnheer de Rector Magnificus, Leden van het College van Bestuur, Collegae hoogleraren en andere leden van de universitaire gemeenschap, Zeer gewaardeerde toehoorders, Dames en heren, ‘Eendracht maakt macht’ is een motto waarmee wij, dat wil zeggen de medewerkers van de Mens-Machine Interactie groep, naar onderzoek kijken. Met die instelling zet ons team zich in om de volgende generatie intelligente ondersteunende systemen te ontwikkelen. Onze missie is: Engineering Experiences! Een experience is een beleving, een ervaring, zelfs een belevenis. Wij willen systemen ontwerpen en bouwen die de gebruiker belevingen bezorgen. Het ontwerp moet dusdanig in elkaar zitten, dat het gebruik de gewenste belevenis oplevert. Net zoals een regisseur van een thriller de film zo in elkaar moet zetten dat de kijker zich kan inleven in het verhaal en de juiste spanning beleeft. Voor het ontwikkelen van intelligente ondersteunende systemen die de gebruiker een bepaalde ervaring opleveren is een interdisciplinaire aanpak nodig. Ons team bestaat daarom uit onderzoekers die gespecialiseerd zijn in en zich richten op verschillende aspecten: het mensgerichte en belevenisgerichte ontwerpen, de vormgeving en realisatie van de interactie tussen mens en machine, de emoties en de kunstmatige intelligentie. Ik zal een en ander toelichten aan de hand van het Pocket Negotiator project; een project waarin we een onderhandelingsondersteunend systeem ontwikkelen. Het is ons doel om software te ontwikkelen die mensen tijdens alle fasen van de onderhandeling ondersteunt.
Onderhandelen: kunst en wetenschap Onderhandelen doen we altijd, overal, met iedereen (zelfs met onszelf). Ik geef een paar voorbeelden om een eerste indruk te krijgen van het thema. Een eerste voorbeeld is ‘handjeklap’ zoals dat op de veemarkten gebruikelijk was en is. Onderhandelingen over CAO’s zijn aan de orde van de dag. De belangen hierbij zijn groot, de tegenstellingen ook. Gelukkig is er meestal ook voldoende gezamenlijk belang om tot een deal te komen. Ook al zijn er veel mensen bij betrokken, over het algemeen zijn er maar twee partijen: de werkgevers en de werknemers. Werknemers worden al dan niet vertegenwoordigd door vakbonden. Onderhandelingen hebben alleen zin als de betrokken partijen voldoende belang hebben bij een deal. De regelmatig terugkerende klimaatonderhandelingen zijn een goed voorbeeld van onderhandelingen die alleen dan echt succesvol zijn als de betrokken partijen doordrongen zijn van de noodzaak om hun uitstoot van klimaatverstorende stoffen te minderen. De net genoemde onderhandelingen worden gevoerd door mensen die in het kader van hun werk dagelijks onderhandelen. Thompson (2005) schrijft over de effectiviteit van onderhandelaars het volgende:
1
Hmm, ja, nou dat is toch al iets! Zullen we afspreken om het volgende week weer oneens te zijn?
Over 1 ding zijn we eens: tot nu toe hebben we niets gevonden om het over eens te zijn!
Figuur 1. Onderhandelen: voldoende belang? “Most people are ineffective negotiators … Fewer than 4 percent of managers reach win-win outcomes when put to the test … Even on issues for which people were in perfect agreement, they fail to realize it 50 percent of the time,” Onderhandelen is niet alleen iets dat bij grote maatschappelijke belangen naar voren komt, maar het is een alledaagse bezigheid op alle niveaus; ook binnen het gezin. Wie brengt vandaag de kinderen naar school? Wie maakt wat schoon? Tot hoe laat mag je kind vanavond wegblijven? worst
Artos
Igor
Figuur 2. Eén tegen één onderhandelen Er zijn allerlei typen onderhandelingen. De belangrijkste typen onderscheiden zich in het aantal partijen dat aan de onderhandelingen deelneemt, of er gebruik wordt gemaakt van een bemiddelaar, hoeveel informatie over de verschillende belangen er wordt uitgewisseld, en hoeveel issues er in de onderhandeling besproken moeten worden. Ik beperk me vandaag tot de onderhandeling tussen twee partijen en over meerdere aspecten. Dit worden bilaterale multi-issue onderhandelingen genoemd. Hoewel we bij onderhandeling direct geneigd zijn te denken aan het loven en bieden, vormt dit slechts een betrekkelijk klein deel en is slechts een van de fasen van de onderhandeling. De onderhandeling begint bij de voorbereiding waarover straks meer, wordt gevolgd door een aantal kennismakende gesprekken, en pas als derde fase is het loven en bieden aan de orde. Tenslotte maak je als goede onderhandelaar ook nog werk van de afsluitende fase waarin je niet alleen het contract tekent, maar ook samen met de andere partij reflecteert over de afgeronde onderhandeling.
2
Private preparation: Domain modelling User modelling Opponent modelling Alternatives
Joint exploration: Domain modelling User preferences Opponent modelling Relationships
Closing: Contract Relationships Reflection
Bidding: Strategy determination Bid evaluation Next bid determination Bidding analysis
Figuur 3. Onderhandelingsfasen De voorbereiding wordt door de beginnende onderhandelaar zwaar onderschat. Bij de aankoop van een auto bereiden de meeste mensen zich niet beter voor dan het kijken naar een paar verschillende auto’s en naar het bedrag dat de auto maximaal mag kosten. De goede onderhandelaar stelt zichzelf vragen als: • Welke belangen spelen een rol? Bij een auto kan dat gaan om vragen als: Waarvoor wil ik de auto gebruiken, wie moeten er mee kunnen rijden, wat is het verbruik, hoe milieubelastend is de auto, waarom wil de andere partij de auto verkopen, waar is de auto voor gebruikt, en ga zo maar door. • Welke belangen worden open op tafel gelegd? Welke belangen zijn vermoedelijk verborgen? Welke belangen kan ik van te voren te weten komen, en welke moet ik proberen boven tafel te krijgen in de kennismakende gesprekken? • Welke emoties spelen een rol? Hoe ga ik om met spanningen tijdens de onderhandeling? Wat is mijn stijl van interacteren? Wat weet ik op dit punt van de andere partij? Daarbij moet worden bedacht dat de emoties per cultuur van duidelijk verschillende ervaringen af kunnen hangen. • Hoeveel ervaring hebben de partijen? Ongeveer 80% van de uitkomst wordt bepaald door de voorbereiding. Voor de onderzoeker, maar ook voor iedere deelnemende partij is het beantwoorden van bovengenoemde vragen van belang om inzicht te krijgen in de aspecten die een rol kunnen spelen tijdens de onderhandeling. De vragen dienen vanuit alle perspectieven (vanuit alle betrokken partijen) beantwoord te worden. Daarnaast moet nog gekeken worden naar de onderlinge relaties tussen de partijen: • • • • • •
Is dit een puur zakelijk contact? Eenmalig of herhaald? Zijn er vriendschapsbanden, familiebanden, of vijandigheden bekend? In welke netwerken verkeren de partijen? Hebben de partijen al eerder met elkaar onderhandeld? Over hetzelfde onderwerp? Hoe is dat toen verlopen? Rust er een taboe op het onderwerp? Zijn er machtsverschillen tussen de partijen, zoals ouder – kind, baas – medewerker, gezaghebbende – verzoekende? Overlappen de netwerken waaruit de verschillende partijen komen? Kan dat tijdens of na de onderhandelingen een rol spelen?
3
Ook in de fasen die volgen op de voorbereiding sta je als onderhandelaar voor allerlei uitdagingen: je kunt geëmotioneerd raken, de ander ook; je kunt het overzicht kwijt raken; onvoldoende tijd hebben genomen om elkaar te leren kennen waardoor je kansen mist; te hoge verwachtingen hebben, er zit geen vooruitgang in de onderhandelingen; om er maar een paar te noemen. Juist emoties maken onderhandelen een proces waar je als mens moeilijk vat op krijgt. Als beide partijen het perspectief op een mooie deal uit het oog verliezen, en kwaad worden, krijgen we te maken met een soort loopgravenoorlog. Beide partijen zijn niet meer bereid om met elkaar mee te denken, maar zien elkaar als vijanden, iemand om je gelijk tegen te moeten halen.
Figuur 4. Verdelen van de erfenis (illustratie: Maan Leeuwenberg) Bovendien veranderen emoties de waarde van sommige issues, zoals bij het verdelen van erfenissen keer op keer weer blijkt. De economische waarde van een object komt niet overeen met de gevoelswaarde. Bovendien kunnen jaloezieën en oude vetes de kop op steken. Een Amerikaans onderzoek dat we in eigen land nog eens hebben overgedaan liet zien dat emoties mensen in de weg kunnen zitten bij onderhandelingen. In één groep liet men mensen tegen elkaar onderhandelen over de indeling, temperatuur, vochtigheid en licht van een ruimte die tussen een bloemenwinkel en een cafeetje verdeeld moest worden. In een andere groep waren deze gegevens gemathematiseerd tot variabelen x, y, z waarbij men zich geen voorstelling kon maken. In de eerste groep liepen de gemoederen hoog op, duurden de onderhandelingen langer en waren de resultaten voor alle onderhandelingspartners slechter dan in de tweede groep. Bovendien verliepen de onderhandeling in de tweede groep in pais en vree. Wat moet je als onderhandelaar doen als je in een emotioneel beladen situatie verzeild raakt? Dit onderzoek toont aan dat het inzetten van niet-te-emotioneren software agenten bij onderhandelingen nuttig kan zijn. Tenslotte is er nog iets lastig aan onderhandelen. Het is voor mensen moeilijk om overzicht te houden op wat je kan bieden en wat er inmiddels is geboden. Het werkgeheugen van de mens bevat slechts 5 a 7 plekken om iets in op te slaan. Uit onderzoek blijkt dat al bij drie issues met voor elk issue zo’n drie a vier mogelijke waarden mensen niet meer in staat zijn om samen een uitkomst te vinden die voor 4
beide partijen zo goed mogelijk is. Het gevolg hiervan is dat mensen nog al eens suboptimale deals sluiten, dat wil zeggen dat het mogelijk was geweest een deal te sluiten die voor beide partijen beter was geweest. Toch wel jammer! Denk aan het economisch verlies! Op grond van alle voorgaande overwegingen kunnen we onze analyse van onderhandelingen naar een hoger plan trekken. Blijkbaar heb je in onderhandelingen te maken met allerlei vormen van onvolledige en onzekere informatie, is de hoeveelheid aan opties overweldigend, en kunnen emoties een grote rol spelen. Bovendien kan de onderhandeling niet bekeken worden als op zich zelf staand. Het verleden, de onderlinge verstandhoudingen en de machtsstructuren die elke partij om zich heen verzameld heeft kunnen een wezenlijke rol spelen tijdens de onderhandeling. De ervaren onderhandelaar neemt alle bovenstaande aspecten mee in haar tactische en strategische overwegingen. Het doel van de Pocket Negotiator is de mens bij alle bovengenoemde vragen en uitdagingen te helpen. Dit vraagt om een wetenschappelijke aanpak!
Benodigde wetenschap Mijn stelling is dat het verstandig is om voor het ontwikkelen van de beoogde Pocket Negotiator interdisciplinair te werken. De kwaliteit van de antwoorden zal beter zijn en het onderzoek zal elk van de betrokken disciplines wetenschappelijk verder helpen. Laten we eerst eens nagaan welke disciplines een rol spelen bij de bestudering van onderhandelen en het ontwikkelen van een Pocket Negotiator. Artificiële Intelligentie Het vakgebied van de artificiële intelligentie kent grof gezegd drie stromingen • Beter en sneller zijn dan de mens • Simuleren van menselijk (dan wel dierlijk) gedrag en van sociale systemen • De mens ondersteunen Mijn persoonlijke streven ligt in het derde punt: kwaliteit van leven verbeteren door de mens naar behoefte te ondersteunen met techniek. Om daartoe te komen, is het van belang ook aandacht te geven aan de eerste twee punten. Om de mens te ondersteunen bij een zekere taak, moet ik niet alleen de taak begrijpen, maar ook hoe de mens daar in staat en waar de mens door de machine geholpen zou worden. Vanuit de technische kant is het van belang om te onderscheiden in welke aspecten de machine zwak is en juist hulp nodig heeft van de mens. Deze overwegingen onderstrepen dat als we machines willen maken die de mens ondersteunen, we moeten begrijpen hoe mensen denken en handelen. Kortom, voor het ontwikkelen van onze Pocket Negotiator zullen we onderhandelingen vanuit een cognitief perspectief moeten bekijken. Cognitiewetenschappen De cognitiewetenschappen kenen veel deeldisciplines die voor ons van belang zijn: • Cognitieve Psychologie: Welke waarnemingen gebruikt de mens bij het onderhandelen, hoe verloopt zijn denk- en beslissingsproces? • Persoonlijkheidspsychologie: Wat is de rol van emoties? Van welke invloed zijn persoonlijkheidskenmerken? • Neurofysiologie: Welke delen van de hersenen zijn er bij betrokken en waarom? Wat is de invloed van emoties hierop? • Psycholinguïstiek: Hoe weet de mens de concepten te identificeren die bij de onderhandelingen een rol spelen, welke taalmiddelen gebruikt hij, welke
5
taalmiddelen hebben op hem welk effect? Zijn emoties te identificeren in de communicatie? Onderhandelingen staan nooit op zichzelf. Ze vinden altijd plaats in een bepaalde sociale setting waarin één of meerdere culturen een rol spelen. Culturele psychologie De initiële mate van vertrouwen die een mens heeft, en misschien ook wel de ontwikkeling van zijn/haar vertrouwen in anderen is afhankelijk van zijn/haar culturele achtergrond. Onder welke omstandigheden begin ik überhaupt aan een onderhandeling? Niet alleen de vraag naar het vertrouwen dat de één in de ander heeft is van belang, maar ook de betrouwbaarheid van beide partijen is belangrijk. Onder welke omstandigheden zullen de spelers proberen elkaar te bedotten? In een masculiene cultuur waarin assertiviteit en competitie gebruikelijk zijn, wordt er ruwweg gezegd bedot tenzij bedrog gestraft wordt. Op welke manier benaderen de belanghebbenden de onderhandeling? In een cultuur waarin grote machtsverschillen heel normaal zijn, wordt tussen de rangen nauwelijks onderhandeld. In westerse landen waarin de machtsafstanden relatief kort zijn, zoals bijvoorbeeld in Nederland, onderhandelen we met kleine kinderen (als je ten minste drie hapjes neemt, mag je straks een toetje) en zelfs met onze huisdieren. Zo zijn er nog andere culturele invloeden op onderhandelingen. Wat is eigenlijk een ‘goede’ onderhandeling? Betekent goed, goed voor de één, goed voor de ander, of goed voor beide partijen? Deze laatste gedachten komen voor een groot deel voort uit mijn eigen achtergrond, namelijk een westerse cultuur. In Oost-Azië bijvoorbeeld is het veel belangrijker dat het onderhandelingsproces goed is verlopen; dat er bijvoorbeeld goed afgedongen is. Onderhandelingen staan nooit op zichzelf. Ze vinden altijd plaats in een bepaalde economische, bedrijfskundige, politieke, en/of juridische situatie. Ik richt me vandaag alleen op de economische en bedrijfskundige inbreng. Economie en bedrijfskunde Hoe is de marktconditie? Is de prijs-productie relatie redelijk stabiel, of onderhevig aan heftige veranderingen? Welke andere opties zijn er? Welke maatregelen zijn er van overheidswege uitgevaardigd om het proces te reguleren? Welke elementen van netwerkeconomie zijn van belang? Welke speltheoretische analyses zijn er al van een vergelijkbare onderhandeling gemaakt? Op welke soort van rationaliteit zijn die analyses gebaseerd? Beperkte rationaliteit houdt in dat spelers slechts beperkte kennis, informatie, of redeneercapaciteiten hebben. Door een combinatie te maken van wiskundige en speltheoretische, rationele beginselen vanuit de economie is het mogelijk om de uitkomst van een onderhandeling te analyseren. Deze analyse wordt gedaan ten opzichte van de preferenties van de betrokken partijen voor de verschillende aspecten van het onderwerp van de onderhandeling. Een grondlegger op dit gebied is John Nash. Idealiter komen de partners tot een oplossing die Pareto-optimaal is. Dat wil zeggen dat er geen oplossing bestaat die voor minstens één van beiden beter is zonder voor één van beiden slechter te zijn. Daartoe worden alle mogelijke uitkomsten van de onderhandeling door middel van een aantal functies beoordeeld. Elke deelnemende partij heeft een eigen functie die aan de uitkomst een cijfer tussen de 0 en de 1 uitdeelt. Deze functies hangen direct af van de preferenties die de partij heeft voor verschillende aspecten van het onderwerp van de onderhandeling.
6
Figuur 5. Links Howard Raiffa, foto van Richard A. Chase en rechts John Nash, foto van het Office of Communications, Princeton University. Twee grondleggers van de onderhandelingstheorieën die we in de Pocket Negotiator gebruiken. Het voert te ver om te laten zien hoe je een dergelijke functie opstelt. Ik verwijs de geïnteresseerde lezer naar de literatuurverwijzingen behorende bij deze rede. Hoe dan ook: stel dat we te maken hebben met een onderhandeling met twee partijen, die we voor het gemak maar even koper en verkoper noemen. Dan krijg je dus voor elke mogelijke uitkomst een punt in het vlak. Maar de meeste punten in het vlak zijn komen overeen met biedingen die je beter niet als uitkomst kan kiezen. Neem bijvoorbeeld de punten die liggen op de kruising van de gestippelde lijnen. Voor deze punten geldt dat er andere punten zijn die voor beide partijen beter zijn. De betere punten zijn de punten die zowel boven als rechts van de te verbeteren punten liggen. De niet te verbeteren punten noemen we Pareto-optimaal. In figuur 6 zijn alleen de punten op de rode lijn Pareto-optimaal. Interessant genoeg is het theoretisch volkomen duidelijk welke uitkomsten Paretooptimaal zijn. Er zijn zelfs definities voor welke uitkomsten zowel Pareto-optimaal als voor beide partijen zo eerlijk mogelijk zijn. Die uitkomsten kunnen echter alleen berekend worden als de onderhandelaars volkomen eerlijk hun preferenties op tafel zouden leggen. Ideale uitkomst “onbereikbaar” 1 “onbereikbaar” Buyer Pareto Optimale Grens
Seller
0 1
Figuur 6. Hoe goed is een onderhandelingsuitkomst?
7
Helaas is dit typisch iets wat mensen niet willen. Daar zijn verschillende redenen voor. Soms zijn we niet geïnteresseerd in een eerlijke uitkomst, maar alleen in ons eigenbelang. Verder is er het risico dat de ander op de een of andere manier misbruik weet te maken van de informatie die ik hem geef. Hoe dan ook, we hebben in realistische situaties te maken met partijen die elkaar niet open inlichten over hun preferenties en waarin dus een optimale oplossing niet op voorhand kan worden berekend. De kunst van het onderhandelen in zulke situaties is om zo dicht mogelijk bij een optimale oplossing te komen. Een ander probleem aan de analytische aanpak is dat mensen tijdens de onderhandeling hun wensenprofiel aanpassen. Bijvoorbeeld kan een koper eerst liever een groot scherm te hebben dan een een grote harde schijf, maar daarin veranderen doordat hij zich realiseert dat hij graag videos meeneemt op zijn laptop. Als de koper zich dat realiseert, verandert zijn profiel: toch liever een laptop met een grote harde schijf, dan een laptop met een groot scherm. De veranderlijkheid van wensenprofielen is een extra eigenschap waar we bij de ontwikkeling van het systeem rekening moeten houden. We moeten begrijpen hoe en wanneer mensen hun wensen profiel aanpassen. De economie en de cognitiewetenschappen leren ons veel over onderhandelen. Artificiële intelligentie levert ons de technieken deze kennis te ontsluiten, waardoor het mogelijk wordt om intelligent adviezen te genereren. Dat is noodzakelijk, maar onvoldoende om een goed systeem te maken. We missen nog een wetenschappelijke discipline en dat is die van de mens-machine interactie. Mens-machine interactie Zonder de inbreng van de mens-machine interactie blijft de Pocket Negotiator een stuk software dat in het luchtledige hangt. Hoe richten we de interactie met de Pocket Negotiator zo in dat de gebruiker effectief, efficient en naar tevredenheid gesteund wordt in het onderhandelen? In welk formaat en op welk moment is de gebruiker instaat en bereid informatie aan te leveren? Welke ondersteuning kan de Pocket Negotiator op basis van deze informatie bieden? Door schade en schande wijs geworden weet ik dat de interfacing tussen Pocket Negotiator en menselijke gebruiker alles bepalend is voor het succes van de Pocket Negotiator. In de onderzoekslijn die ik en mijn groep propageren proberen we synergie te bereiken tussen mens en machine. Daarvoor werken we samen aan een interdisciplinaire ontwikkelmethodiek voor systemen die synergetisch samenwerken met de gebruiker.
Een ontwikkelmethodiek voor synergetische systemen We willen de kracht van de mens gebruiken om de zwakte van de machine te ondervangen, en vice versa. We streven dus naar echte samenwerking tussen mens en machine. Om die optimale manier van samenwerken te bereiken, gebruiken we een ontwikkelmethodiek die voortbouwt op bestaande methoden en deze uitbreidt met nieuwe ideeën. Bestaande methoden die we gebruiken zijn user-centered design, en situated cognitive engineering. Verder integreren we een bestaand concept, namelijk “shared task model”, in onze methode en werken we dat idee verder uit om echt tot synergie te komen. Tenslotte kan geen enkel project zonder een goede haalbaarheidsstudie vanuit zowel een gebruikersperspectief als een technisch perspectief. Elk van deze onderdelen leg ik hieronder uit.
8
De mens centraal Onze onderzoeksaanpak is er één waarin vanaf het begin de mens centraal staat. Zowel bij de analyse van onderhandelen als complexe vaardigheid, als bij de ontwikkeling van een gebruikersperspectief, als bij het ontwerpen van de interfaces tussen mens en machine. Dat wordt in de vak literatuur “user-centered design” genoemd. Verder neemt in onze ontwikkelmethodiek het begrip situatie een belangrijke plaats in. Een intelligent ondersteunend systeem geeft een advies dat van situatie tot situatie verschilt. De situatiebewuste manier van werken die wij hebben geadopteerd wordt “situated cognitive engineering” genoemd. Deze aanpak voegt een technologisch perspectief toe aan de mensgerichte ontwerpmethode. Dit technologisch perspectief bepaalt de focus in het proces van specificatie en ontwikkeling van haalbare concepten voor samenwerken. Het wederkerige effect dat mens en machine op elkaar hebben wordt expliciet gemaakt en meegenomen in het ontwerpproces. We gebruiken scenario’s om de wensen en doelen van gebruikers te achterhalen en de verscheidenheid van situaties te bepalen waarin het systeem gebruikt zal worden. Al in een zeer vroeg stadium kunnen we zogenaamde “Wizard-of-Oz” technieken gebruiken om ideeën bij potentiële gebruikers te testen. In een Wizard-ofOz experiment speelt een mens de rol van het toekomstige systeem. De interactie met de gebruiker vindt bijvoorbeeld plaats via tekeningen van een scherm zoals het systeem die later in het echt zou tonen. Op die manier kunnen we kosteneffectief de ondersteuningsfuncties van het systeem ontwikkelen en implementeren. Dezelfde scenario’s worden uiteindelijk ook in het draaiende systeem gebruikt als voorbeelden om samen met de gebruiker snel een goede inschatting te kunnen maken van de situatie. Op grond van die inschatting geeft het systeem een situatiebewust advies dat in overeenstemming is met de wensen en vaardigheden van de gebruiker. Gemeenschappelijk taakbeeld Een ander belangrijk ingrediënt van onze ontwikkelmethodiek is het eerder genoemde gemeenschappelijk taakbeeld, ook wel “shared task model” genoemd. Dit concept drukt uit dat systeem en gebruiker pas echt goed met elkaar kunnen samenwerken als ze een vergelijkbare taakopvatting hebben. Origineel werd dit begrip gebruikt om aan te geven dat het systeem zo ontworpen moest zijn dat de taakopvatting die bij het systeem onder de motorkap zat moest overeenstemmen met die van de gebruiker. Voor de intelligente systemen van de toekomst neemt dit begrip een nog belangrijkere plaats in. Voor taken zoals onderhandelen is het helemaal niet gezegd dat er maar één manier is om de taak zo goed mogelijk uit te voeren. Verschillende mensen hebben verschillende ideeën over de taak in kwestie. Zo wijst onderzoek uit dat er voor onderhandelen vijf verschillende mentale modellen zijn; de meeste mensen hebben een beeld van onderhandelen dat ruwweg overeenkomt met een van deze vijf modellen. Deze mentale modellen zijn eenvoudig om te zetten in taakmodellen. Een bijkomend probleem is dat niet alle mentale modellen voor onderhandelen even effectief zijn. Om de mens zo goed mogelijk bij te staan in zijn onderhandeling moet de Pocket Negotiator kunnen achterhalen welk mentaal model de gebruiker van onderhandelen heeft en uitzoeken of de gebruiker geïnteresseerd is in het bijstellen van zijn mentaal model naar een meer effectief model. Door een proces van gezamenlijke adaptatie moeten ze dus komen tot een gezamenlijk beeld van onderhandelen dat ze in hun samenwerking hanteren. Hoe snel dit proces moet verlopen, en dus hoe snel de Pocket Negotiator zich moet aanpassen aan de gebruiker hangt af van de situatie. Zijn er nog zeeën van tijd en is de gebruiker geïnteresseerd in nieuwe ideeën, of is er weinig tijd, of wil de gebruiker op dit moment niet van idee
9
veranderen? Zelfs als het beeld van de Pocket Negotiator over onderhandelen is afgestemd op dat van de gebruiker, dan nog zijn we niet klaar. Het is belangrijk dat de gebruiker en de Pocket Negotiator weten wat ze aan elkaar zullen hebben gedurende de onderhandeling. Pas dan kunnen ze effectief samenwerken en raken ze niet in elkaar teleurgesteld. Ook dat scharen wij onder het idee van het “shared task model”. Haalbaarheid Het laatste belangrijke onderdeel van onze methodiek dat ik vandaag onder uw aandacht wil brengen is de haalbaarheidsstudie. Hoewel ook over haalbaarheidsstudies veel meer te vertellen is dan ik in dit korte tijdsbestek kan doen, wil ik aan de hand van het Pocket Negotiator project twee aspecten van haalbaarheidsstudies met u bespreken: technische haalbaarheid en de kans dat gebruikers het beoogde systeem daadwerkelijk zouden gaan gebruiken. Wat betreft de technische haalbaarheid gaat het om de vertaling van alle concepten en processen die voor het project belangrijk zijn, naar de vraag of we in staat zijn om binnen de looptijd van het project de benodigde techniek te ontwikkelen die deze concepten en processen vertalen naar een intelligent systeem. In de bovenstaande opsomming van relevante wetenschappen voor het thema onderhandelen, komen concepten naar voren die lastig te vangen zijn in een wiskundig raamwerk. Ik denk hierbij aan begrippen als vertrouwen, risicohouding, en betrouwbaarheid. Hoe combineer ik als expert in het maken van analytische en simulatiemodellen dit soort begrippen met standaard economische concepten? Vanuit de artificiële intelligentie (AI) gezien heb ik nog een aantal andere fundamentele problemen. Als ik een programma wil maken dat mensen ondersteunt bij willekeurige onderhandelingen, dan moet dat programma in staat zijn om een conceptualisatie te maken van de onderwerpen die tijdens de onderhandeling een rol zullen spelen. Bovendien moet het programma ergens de domeinkennis vandaan halen om de relaties tussen die concepten te kunnen vaststellen. Als klein voorbeeldje het volgende: ieder van u weet dat ik aan een fiets zonder banden weinig heb, maar dat een fiets zonder licht of bel prima bruikbaar kan zijn. Hoe moet een computer dat weten? Ook dit soort problematiek kan een AI-er niet alleen oplossen. Hierbij is onder andere de hulp van taalkundigen een vereiste. Bovendien zal op automatische wijze toegang moeten worden verkregen tot bestanden met de voor elke specifieke onderhandeling benodigde achtergrondkennis. Voor dit laatste probleem kijk ik met belangstelling en verwachting naar de ontwikkeling van het Semantisch Web. Maar laten we kijken hoever we komen als we dit laatste probleem in de koelkast zetten. Het loven en bieden is een terrein waar de mens gauw door de bomen het bos niet meer ziet. Het behouden van het overzicht is voor de computer een stuk makkelijker. In ons onderzoek ontwikkelen we software programma’s die proberen zo dicht mogelijk bij een optimale uitkomst te komen ook al zijn de profielen van de andere partijen niet of niet volledig bekend. Onze resultaten laten zien dat op dit gebied de computer de gemiddelde mens echt al ruim voorbij is. Het wordt steeds moeilijker voor menselijke onderhandelaars om beter te presteren dan de software agent. We kunnen concluderen dat we voor het loven en bieden de techniek in huis hebben om de mens echt van dienst te kunnen zijn. De Pocket Negotiator kan ons echter alleen helpen bij het loven en bieden als de Pocket Negotiator weet wat de issues zijn waarover onderhandeld moet worden en wat het preferentieprofiel van de gebruiker is. Hoe meer daarnaast bekend is over het preferentieprofiel van de andere partij, hoe beter de adviezen zijn die de Pocket Negotiator kan geven. Als er niets bekend is, dan hanteert de Pocket Negotiator een
10
leerstrategie waarmee in een paar biedingen een aardig beeld opbouwt van het preferentieprofiel van de andere partij. Maar goed, het begint dus met informatie over het onderhandelingsdomein en de preferentieprofielen. Om automatisch de juiste informatie op het internet te vinden vraagt nog te veel van de bestaande technieken voor het interpreteren van natuurlijke taal. Het is dus geen haalbare kaart om dit aspect aan het systeem toe te vertrouwen. Echter, de Pocket Negotiator kan wel de juiste vragen aan de gebruiker stellen. De te stellen vragen staan in de algemeen beschikbare literatuur over onderhandelen en deze kunnen we met behulp van kennistechnologie ontsluiten. Door de Pocket Negotiator uit te rusten met kenniselicitatietechnieken verwerven het systeem en de gebruiker in een gezamenlijk vraag/antwoord spel informatie over het domein, de gebruiker en de andere onderhandelingspartij. Het is een wetenschappelijke uitdaging voor onze groep om in kenniselicitatietechnieken een positieve balans te vinden tussen de toegevoegde waarde en de inspanning die gebruikers ervaren bij het gebruik van een systeem. We weten dat de beleving van toegevoegde waarde en de bereidheid om meer inspanning te leveren afhankelijk is van het moment waarop informatie wordt gevraagd en van het inzicht en vertrouwen van de gebruiker dat de interactie direct aansluit bij zijn doelen op dat moment. Dit vraagt onderzoek, maar de zekerheid van succes is hoog. Zowel Pocket Negotiator en gebruiker hebben belang bij samenwerking in deze voorbereidende fase van onderhandelen. De gebruiker moet ditsoort vragen toch beantwoorden om zich goed op de onderhandeling voor te bereiden en de informatie wordt nu op een gestructureerde manier verzameld en opgeslagen. De Pocket Negotiator houdt het overzicht en kan te allen tijde de gebruiker dit overzicht aanbieden en hem helpen bij het aanpassen van de opgedane informatie. Samen sterk. De laatste grote technische uitdaging is het omgaan met emoties. Kunnen we de Pocket Negotiator zo ontwikkelen dat deze ook een zinnig advies kan geven als de onderhandelaar in een emotioneel beladen situatie terecht komt? Als je de literatuur over onderhandelen bestudeert, dan zie je een breed scala aan boeken met theorieën, tips en voorbeelden over emoties in onderhandelen. Hoe je de sfeer van de onderhandeling goed kan houden, hoe je de situatie kunt verbeteren als de situatie te beladen wordt, hoe je van emoties gebruik kunt maken om de onderhandeling naar je hand te zetten. Deze boeken bevatten echter alleen richtlijnen en dat is logisch. Elke onderhandeling is tenslotte weer anders. Niet alleen verschillen de domeinen, maar met name de spelers zijn unieke individuen en hun stemming en gedrag varieert van situatie tot situatie. Om zelfs maar een advies van algemene strekking te kunnen geven, moet de Pocket Negotiator de situatie in kunnen schatten qua emotionele lading voor beide partijen, en een goed beeld hebben van hoe de gebruiker (en het liefst ook de andere partij) doorgaans omgaat met conflicten. Als we op deze punten naar de huidige stand van de wetenschap en techniek kijken wordt het lastig. Met behulp van allerlei fysiologische sensoren (hartslag, zweet, etc), camera’s en microfoons is die emotionele situatie redelijk in te schatten. Maar wie wil er nu in een onderhandeling zitten waarbij al die apparatuur aanwezig is en aan je is gekoppeld? Als de gebruiker het al goed zou vinden, dan is er nog de kant van de andere onderhandelaar. Zou u het goed vinden dat die apparatuur in de kamer aanwezig is? Er zal hiervoor dus een andere oplossing gevonden moeten worden. Die is er. De mens is tot nu toe en waarschijnlijk voor de eerst komende 20 jaar veel beter in het herkennen en inschatten van de situatie. De mens heeft daarvoor van nature de sensoren aan boord en is van jongs af aan getraind in het gebruik daarvan. Zelfs mensen die het moeilijk vinden om de emotie van een ander af te lezen, kunnen de
11
lichaamshouding en gelaatsuitdrukking wel goed vergelijken met voorbeelden. Hier komen we dus tot een belangrijk moment in de samenwerking tussen mens en machine. De mens is sterk in het inschatten van de situatie, de machine kan dat zeker tijdens de onderhandeling nauwelijks tot niet. Het systeem is voor de juiste input afhankelijk van de menselijke kwaliteiten van de gebruiker. In ons ontwerp van de Pocket Negotiator proberen we deze menselijke kwaliteiten te activeren. Op grond van de verkregen informatie biedt het systeem de gebruiker dan de richtlijnen en voorbeelden aan die voor die situatie van belang zijn. Samen sterk. Wat betreft de acceptatie van de Pocket Negotiator in de maatschappij zijn er verschillende vragen te stellen. Zou een mens bereid zijn om het loven en bieden over te laten aan een software agent, net zoals we het rekenwerk graag overlaten aan een rekenmachine? Een enquête onder beginnende studenten in de eerste jaren van deze eeuw gaf verrassende resultaten. Een deel van de studenten gaf aan daar alleen voor te kiezen als het om onbelangrijke zaken zou gaan, maar dat men voor zoiets als een auto liever zelf zou bieden. Het andere deel van de studenten gaf precies het omgekeerde aan. Voor belangrijke zaken, zoals een auto, zouden deze studenten graag gebruik maken van een software agent, maar voor onbelangrijke zaken dachten ze het wel zelf af te kunnen. Is de ene groep te zelfverzekerd, de andere te onzeker? Om hier zicht op te krijgen zullen we in ons onderzoek dus rekening moeten houden met onder andere de persoonlijkheidskenmerken van onze gebruikers. Inmiddels doen we veel genuanceerder onderzoek dat voor elke fase van het onderhandelingsproces probeert te achterhalen wat de grootste toegevoegde waarde zou zijn. Het is duidelijk dat de Pocket Negotiator een grote toegevoegde waarde zal hebben in de voorbereidingsfase. Aangezien dat de fase is die voor ongeveer 80% de uitkomst van de onderhandeling bepaalt was dat van doorslaggevend belang om aan het project te beginnen. Ook van belang voor de acceptatie van de Pocket Negotiator is de vraag in welke omstandigheden het voor alle partijen acceptabel is dat de gebruiker zijn Pocket Negotiator op tafel heeft. We moeten dus niet alleen ontwerpen voor de juiste beleving bij de gebruiker, maar ook voor de juiste beleving bij de andere onderhandelingspartij. In hoeverre verschilt acceptatie bijvoorbeeld van het gebruik van een kladblok of een rekenmachine? Wat misschien niet geldt voor een echte onderhandeling, geldt in ieder geval wel voor een trainingssituatie. In een dergelijke situatie kan de gebruiker wel gebruik maken van de moderne techniek. De gebruiker kan een aantal lastige situaties oefenen en daarop feedback krijgen van de Pocket Negotiator. De Pocket Negotiator maakt gebruik van de scenario’s die tijdens het project ontwikkeld zijn om de functionaliteit van de Pocket Negotiator te verhogen. Ter afsluiting nog even iets over mijn persoonlijke motivatie om de Pocket Negotiator te ontwikkelen. Al ben ik in de loop van mijn onderzoek naar onderhandelen al een stuk vooruit gegaan, ik ben zo’n type dat altijd te veel betaalt en ik ben snel onder de indruk van powerplay door anderen. In de toekomst hoop ik me in zulk soort situaties door mijn eigen software te kunnen laten adviseren.
Interdisciplinair Onderwijs Bij een inaugurele rede staat de wetenschap voorop. Aan een universiteit lijkt het alsof onderwijs en wetenschap om voorrang strijden. Echter wetenschap is niets anders dan een voortdurende zelfscholing, zowel qua inhoud als qua technieken. Ik zeg zelfscholing, maar ik hoop net duidelijk te hebben gemaakt dat ik een sterk voorstander ben van interdisciplinair onderzoek. Interdisciplinair onderzoek vereist samenwerking en levert samen ontdekken en is dus niets anders dan samen leren. Ik 12
maak graag van de gelegenheid gebruik om een oproep te doen voor interdisciplinair projectgebaseerd onderwijs aan de TU Delft. Uni-disciplinair onderwijs brengt met zich mee dat we mensen leren om via een bepaalde bril, namelijk die van de eigen discipline, naar de werkelijkheid en naar problemen te kijken. Een metafoor is deze: iemand die alleen heeft leren timmeren ziet in elk probleem een spijker. Let wel ik vind dat we ons moeten specialiseren. Het specialisme maakt je sterk in het oplossen van een bepaald type problemen. Maar laten we ons aanwennen om een open blik te houden voor de kennis en inzichten van andere disciplines. Daarom pleit ik voor projecten die door je hele studie heen lopen, waarin studenten van alle jaren en van verschillende opleidingen en faculteiten samenwerken en studeren om de problemen van de toekomst op te lossen. De inbreng van de eerste-jaars student zou wel eens belangrijker kunnen blijken dan die van de hoogst-geleerde docent.
Talent naar de Top Het wordt langzamerhand traditie voor de leden van DEWIS om iets over vrouw-man verhoudingen te zeggen. Ik sluit me aan bij deze traditie. Een heugelijk feit van deze herfst is dat ons College van Bestuur als eerste universiteit in Nederland het convenant van de Taskforce “Talent naar de Top” heeft getekend. Met het convenant wil de Taskforce een hogere toestroom, doorstroom en behoud van vooral vrouwelijk talent in topfuncties bereiken. Mijn complimenten aan ons College van Bestuur voor zulk leiderschap. Ik roep iedereen op om hun voorbeeld te volgen en dit convenant in je eigen hart te tekenen, want let wel: samen staan we sterk!
Rest mij nog een klein woord van dank aan hen die mij naar de TU Delft gehaald hebben. Achter de schermen zijn er ongetwijfeld nog andere mensen mee gemoeid geweest, maar de mensen die met mij contact opnamen en onderhandelden zijn de oud-decaan Jan van Katwijk en onze afdelingsvoorzitter Jan Biemond. Heren, hartelijk dank, ik heb het enorm naar mijn zin in Delft. Ik dank u allen voor uw aandacht en aanwezigheid. Uw inbreng maakt deze dag voor mij waardevol en memorabel. Ik heb gezegd!
Prof. dr. Catholijn M. Jonker Hoogleraar Mens-Machine Interactie Technische Universiteit Delft 10 december 2008
13
Literatuur Amgoud, L., and Souhila, K., (2005). On the study of negotiation strategies. In: Van Eijk, R., Flores, R., Huget, M.P. (Eds.), Proceedings of the Workshop on Agent Communication, AC’05, pp. 3—16. Bosse, T. and Jonker, C.M., (2005). Human vs. Computer Behaviour in Multi-Issue Negotiation. In: Ito, T., Hattori, H., Matsuo, T., and Zhang, M. (eds.), Proceedings of the First International Workshop on Rational, Robust, and Secure Negotiations in MultiAgent Systems, RRS'05, pp. 10—25. Boutilier, C., Brafman, R.I., Domshlak, C., Hoos, H.H., and Poole, D., (2004). CP-nets: A Tool for Representing and Reasoning with Conditional Ceteris Paribus Preference Statements. In: Journal of Artificial Intelligence Research (JAIR), vol. 21, pp. 135— 191. Boven, L. van, and Thompson, L., (2003). A look into the mind of the negotiator: mental models in negotiation. In: Group processes and intergroup relations, Vol. 6, Nr. 4, pp. 387—404. Brazier, F. M. T., Jonker, C. M., Treur, J., and Wijngaards, N.J.E, (2000). On the Use of Shared Task Models in Knowledge Acquisition, Strategic User Interaction and Clarification Agents. International Journal of Human-Computer Studies, vol. 52, pp. 77-110. Büttner, R., (2006). The State of the Art in Automated Negotiation Models of the Behavior and Information Perspective. In: International Transactions on Systems Science and Applications (ITSSA), vol. 1, nr. 4, pp. 351—356. Carroll, J.M. (2000). Making use – scenario-based design of human-computer interactions. Cambridge: MIT press. Chen, L. S., (2000). Joint processing of audio-visual information for the recognition of emotional expressions in human-computer interaction. PhD thesis, University of Illinois at Urbana-Champaign, Dept. of Electrical Engineering. Chen, L., and Pu, P., (2004). Survey of Preference Elicitation Methods, Technical Report No. IC/200467, Swiss Federal Institute of Technology in Lausanne (EPFL), Lausanne, Switzerland, July 2004, 23 pages. O’Connor, K.M., and Adams, A.A., (1999). What Novices Think About Negotiation: A Content Analysis of Scripts. Negotiation Journal, Vol. 5, nr. 2, 135–148. Damasio, A.R. (1999, 2000): The Feeling of What Happens: Body and Emotion in the Making of Consciousness, Harcourt Brace, New York. Desmet, Pieter, 2002, PhD thesis, “Designing emotions”. Promotor: Prof. Jacobs, TU Delft. Faratin, P., Sierra, C., and Jennings, N.R., (2002). Using Similarity Criteria to make issue trade-offs in automated negotiations. In: Artificial Intelligence Journal, vol. 142, nr. 2, pp. 205–237. Fisher, R., and Shapiro, D., (2005). Beyond reason: using emotions as you negotiate. Random House Business Books. Fisher, R., and Ury, W.L., and Patton, B. (ed.) (1981, 1992, 2003). Getting to Yes: Negotiating Agreement Without Giving In. Penguin Books. Folkman, S., and Lazarus, R.S. (1990). Coping and emotion. In: Stein, N.L., Leventhal, B., and Trabasso, T. (Eds.), Psychological and Biological Approaches to Emotion. Lawrence Erlbaum, Hillsdale, NJ, pp. 313–332. Frijda, N., (1993). Moods, emotions episodes and emotions. In: Lewis, M., and Haviland, I. (eds.), Handbook of emotions. Guildford: New York, pp. 381—403. Gentner, D., and Stevens, A. L., (Eds.), (1983). Mental models. Hillsdale, NJ: Erlbaum. Hindriks, K.V., Jonker, C.M., and Tykhonov, D., (2006b). Eliminating Interdependencies between Issues for Multi-issue Negotiation. In: Klusch, M., Rovatsos, M., and Payne, T.R., eds., Cooperative Information Agents X, Proceeding of Tenth International Workshop on Cooperative Information Agents, Edinburgh, United Kingdom, September 11 – 13, Lecture Notes in Artificial Intelligence, vol. 4149, pp. 301–316. Hindriks, K.V., Jonker, C.M., and Tykhonov, D., (2007b). Negotiation Dynamics: Analysis, Concession Tactics, and Outcomes, In: Proceedings of Intelligent Agent Technologies, IAT2007. To appear. Hofstede, G., and McCrae, R.R. (2004). Personality and Culture Revisited: Linking Traits and Dimensions of Culture. In: Cross-Culture Research, Vol. 38, No 1., Februari 2004, pp. 52 – 88.
14
Hofstede, G. & Hofstede, G.J. (2005). Cultures and Organizations: Software of the Mind. Third Millennium Edition, New York: McGraw-Hill. InterNeg Group, http://interneg.org/. Jonker, C.M., and Treur, J., (2001). An Agent Architecture for Multi-Attribute Negotiation. In: B. Nebel (ed.), Proceedings of the 17th International Joint Conference on AI, IJCAI'01. Morgan Kaufman, pp. 1195—1201. Jonker, C.M., and Robu, V., Automated Multi-Attribute Negotiation with Efficient Use of Incomplete Preference Information. In: Proceedings of the Third International Joint Conference on Autonomous Agents and Multi-Agent Systems, AAMAS'04. IEEE Computer Society Press, 2004, pp. 1056--1063. Kersten, G.E. and Cray, D., (1996), Perspectives on representation and analysis of negotiation: Towards cognitive support systems, in: Group Decision and Negotiation, vol. 5, pp. 433—467. Kilmann, R. H., and Thomas, K. W., (1977). Developing a Forced-Choice Measure of Conflict-Handling Behavior: The MODE Instrument, In: Educational and Psychological Measurement, Vol. 37, No. 2, 309—325. Kleef, G.A. van, De Dreu, C.K.W., and Manstead, A.S.R., (2004). The Interpersonal Effects of Emotions in Negotiations: A Motivated Information Processing Approach, In: Journal of Personality and Social Psychology, vol. 87, nr. 4, pp. 510—528. Kraus, S., (2001). Strategic Negotiation in Multiagent Environments, MIT Press. Lazarus, R.S., and Folkman, S., (1984). Stress, Appraisal, and Coping. Springer, New York. Lee K. C., Kang, I., and Kim, J.S., (2007). Exploring the user interface of negotiation support systems from the user acceptance perspective, In: Computers in Human Behavior, vol. 23, nr. 1, pp. 220—239. Lewicki, R.J., Weiss, S.E., and Lewin, D., (1992). Models of conflict, negotiation, and third party intervention: A review and synthesis. In: Journal of Organizational Behavior, vol. 13, nr. 3, pp. 209—252. Lin, R., Kraus, S., Wilkenfeld, J., and Barry, J., (2006). An Automated Agent for Bilateral Negotiation with Bounded Rational Agents with Incomplete Information. In: Proceedings of the European Conference on Artificial Intelligence, ECAI 2006, pp. 270—274. Luo, X., Jennings, N.R., and Shadbolt, N., (2006). Acquiring user strategies and preferences for negotiating agents: a default then adjust method. In: International Journal of Human Computer Studies, vol. 64, nr. 4, pp. 304—321. Maguire, M. (2001). Methods to support human-centred design. In: International Journal of Human–Computer Studies, vol. 55, pp. 587—634. Mastenbroek, W.F.G., (1989). Negotiate. Basil Blackwell Inc. Mastenbroek, W.F.G., (1999). Negotiating as Emotion Management. In: Theory, Culture & Society, vol. 16, nr. 4, pp. 49—73. Monzani, J.B., Bendahan, S., and Pigneur, Y., (2004). Decision and Visualization for Negotiation, In: Proceedings of the 37th annual Hawaii International Conference of System Sciences, HICSS 2004, p. 10034b. Nash, J.F., (1950). Equilibrium points in N-Person Games, In: Proceedings of NAS, Vol. 36, pp. 48 – 49. Nash, J.F., (1953). Two-Person Cooperative Games, Econometrica, Vol. 21, pp. 140 –152. Neerincx, M.A. and Lindenberg, J. (2008). Situated cognitive engineering for complex task environments. In: Schraagen, J.M. (Ed.), Natural Decision Making & Macrocognition. Ashley. Oliver, J.R., (2005). On Learning Negotiation Strategies by Artificial Adaptive Agents in Environments of Incomplete Information. In: Formal Modelling in Electronic Commerce, International Handbooks on Information Systems, Part IV, Springer Berlin Heidelberg, pp. 445–461. Preece, J.J., Rogers, Y., and Sharp, H., (2002, 2007). Interaction Design: Beyond HumanComputer Interaction. John Wiley & Sons, Inc. Pruitt, D.G. (1981). Negotiation Behavior, Academic Press. Pruitt, D.G., and Rubin, J.Z., (1986). Social Conflict: Escalation, Stalemate, and Settlement. New York: McGraw-Hill.
15
Raiffa, H. (1982). The art and science of negotiation, Harvard University Press, Cambridge, Mass. Raiffa, H., Richardson, J., and Metcalfe, D., (2002). Negotiation Analysis: The Science and Art of Collaborative Decision Making, Cambridge, MA: Belknap Press of Harvard University Press. Ros, R., and Sierra, C., (2006), , “A Negotiation Meta Strategy Combining Trade-off and Concession Moves”, Journal of Autonomous Agent and Multiagent Systems, 12(2), pp. 163—181. Rosenschein, J.S., and Zlotkin, G., (1994), Rules of Encounter: Designing Conventions for Automated Negotiation among Computers. The MIT Press, Cambridge, MA, 1994. Rothkrantz, L.J.M., Wiggers, P., Wees, J.W.A. van, and Vark, R.J. van, (2004). Voice Stress Analysis. In: Proceedings of the 7th International Conference Text, Speech, and Dialogue, TSD 2004. LNAI 3206, Springer, Berlin-Heidelberg-New York, pp. 449—456. Shell, G.R., (2006). Bargaining for advantage: Negotiation strategies for reasonable people. 2nd Edition. Penguin books. Shneiderman, B., and Plaisant, C., (2005). Designing the User Interface, Fourth Edition, Addison Wesley. Simon, H.A., (1955). A behavioral model of rational choice. The Quarterly Journal of Economics, Vol. LXIX, Febr. 1955. pp. 99—118. Spence, R., (2007) Information Visualization - Design for Interaction. Second Edition. Pearson Prentice Hall. 282 pages. Steinel, W., Van Kleef, G.A., and Harinck, F., (2006). Are you talking to me?! Separating the people from the problem when expressing emotions in negotiation, Journal of Experimental Social Psychology, In Press, Corrected Proof, Available online 29 December 2006. Swaab, R.I., Postmes, T., Neijens, P., Kiers, M., and Dumay, A.C.M., (2002). Multiparty negotiation support: the role of visualization’s influence on the development of shared mental models. In: Journal of Management Information Systems, vol. 19, nr. 1, pp. 129—150. Thomas, K.W., (1992). Conflict and conflict management: Reflections and update. In: Journal of Organizational Behavior, Vol. 13, Nr. 3, pp. 265—274. Thompson, L.L., and Loewenstein, J., (2003), Mental models of negotiation: descriptive, prescriptive, and paradigmatic implications. In: Hogg, M.A., and Cooper, J. (eds.), Sage handbook of social psychology. London: Sage, pp. 494—511. Thompson, L.L., (2005), The Heart and Mind of the Negotiator, Upper Saddle River, New Jersey Pearson Prentice Hall. Truong, K.P, van Leeuwen, D.A., and Neerincx, M.A. (2007). Unobtrusive Multimodal Emotion Detection in Adaptive Interfaces: Speech and Facial Expressions. In: D.D. Schmorrow and L.M. Reeves (Eds), Foundations of Augmented Cognition, 3rd Edition, HCII 2007, LNAI vol. 4565 (10 pages), Berlin Heidelberg: Springer-Verlag. Tufte, E.R., (2001). The visual display of quantitative information. Graphics Press. Ursin, H. and Erisen, H.R. (2004). The cognitive activation theory of stress. Psychoneuroendocrinology, vol. 29, pp. 567–592. Ury, W., (2007). The Power of a Positive No: How to Say No and Still Get to Yes. Bantam Books / Random House. Ury, W., (1991, 1993). Getting past no. Negotiating your way from confrontation to cooperation. Bantam Books.
16
