Bulk EXIF uitlezen

Discussies over fotobewerking en archivering

Onderwerp:

Bulk EXIF uitlezen

Berichtdoor Tony D » wo aug 15 2018 5:34 pm

Op diverse fora lees ik dat mensen via hun EXIF gegevens zien dat ze bijvoorbeeld 80% van hun foto’s met een brandpunt van minder dan 28 mm schieten. Zij kunnen blijkbaar in bulk dit soort gegevens uit de EXIF info lezen. Ik neem tenminste niet aan dat je dat foto voor foto uitleest en met de hand gaat zitten turven.
Wat voor mogelijkheden zijn daarvoor?

Tony D
Nikon D7200, D90, 16-85 VR; 35/1.8, 50/1.8, 70-300 VR, 85 micro VR, SB700; http://www.photony.nl
Gebruikersavatar
Tony D

Clublid
Berichten: 1169


Locatie: Vlaardingen
Ervaringsniveau: ***
Foto's bewerken toestaan: Ja
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor bcvthul » wo aug 15 2018 6:01 pm

Ik denk dat er wel tooltjes zijn die EXI halen uit de fotobestanden, google maar eens
Nikon D850,D7000, D60, Nikkor AF-S 105mm F2.8 G IF-ED VR II , Tokina 12-24mm F4.0 AT-X Pro DX I, Tamron 70-300 F/4-5.6 Di VC USD, Nikkor AF-S 35mm F1.8 G ED, Nikkor AF-S 50mm F1.8G, Tamron SP 15-30mm F/2.8 Di VC USD, Tamron SP 24-70mm F/2.8 Di VC USD G2
Gebruikersavatar
bcvthul

Clublid
Berichten: 1416


Locatie: Hengelo
Ervaringsniveau: ***
Foto's bewerken toestaan: Nee

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Tony D » wo aug 15 2018 6:11 pm

Ik kom wel EXIF-editors tegen, maar ik zoek een progje dat in bulk allerlei EXIF-info uit mijn foto’s kan lezen.

Tony D
Nikon D7200, D90, 16-85 VR; 35/1.8, 50/1.8, 70-300 VR, 85 micro VR, SB700; http://www.photony.nl
Gebruikersavatar
Tony D

Clublid
Berichten: 1169


Locatie: Vlaardingen
Ervaringsniveau: ***
Foto's bewerken toestaan: Ja
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Robert » wo aug 15 2018 6:36 pm

Lightroom (bibliotheek, filteren op meta-gegevens).
groeten Robert
Gebruikersavatar
Robert

Moderator
Berichten: 2354


Locatie: Gelderland
Foto's bewerken toestaan: Nee
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Marten » wo aug 15 2018 6:38 pm

Je term "in bulk" is niet duidelijk.
Maar goed. Ik denk dat je een programmaatje als Exposure Plot bedoelt:

https://exposureplot.en.softonic.com/?ex=CAT-801.1
Marten

Forumlid
Berichten: 7049


Foto's bewerken toestaan: Nee

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Richard » wo aug 15 2018 7:12 pm

Groeten,

Richard
Gebruikersavatar
Richard

Serverbeheerder
Berichten: 1964


Locatie: Westfriesland
Ervaringsniveau: ***
Foto's bewerken toestaan: Ja
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Tony D » wo aug 15 2018 7:59 pm

Dank Marten en Richard, dat is wat ik zoek!

Tony D
Nikon D7200, D90, 16-85 VR; 35/1.8, 50/1.8, 70-300 VR, 85 micro VR, SB700; http://www.photony.nl
Gebruikersavatar
Tony D

Clublid
Berichten: 1169


Locatie: Vlaardingen
Ervaringsniveau: ***
Foto's bewerken toestaan: Ja
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor ben42 » do aug 16 2018 8:39 am

Ondertussen heb ik ervaring met Lightroom, dat is een prettig tool om relatief snel je eigen statistieken van bepaalde metadata te verkrijgen, zaken als brandpuntsafstand, diafragma etc. zijn daar gemakkelijk op te vragen.

Voor statistieken werd ook al verwezen naar exposureplot. Daar heb ik geen ervaring mee.

In de draad:
Exif data naar een database.
Wordt nog een suggestie gedaan. (Ik weet niet of deze methode nog werkt).

Volgens mij ook niet razendsnel, maar wel met zeer veel mogelijkheden.

Laat even van je horen of deze methode wat voor je is. En als, hoe de het tool gebruikt.
Vriendlijke groet,
Ben
XD7/X700/F70/D70/D7000/D7700
Gebruikersavatar
ben42

Clublid
Berichten: 1372


Ervaringsniveau: ***
Foto's bewerken toestaan: Ja

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Richard » do aug 16 2018 10:38 am

Dat is jou reactie Ben. Heb jij het destijds geprobeerd?

ExifTool werkt nog steeds, volg de link in bovenstaande draad maar.

Ik maak gebruik ExifTool van maar ben naar Lightroom aan het verschuiven; aanwijs en klik gaat sneller dan een SQL query schrijven en niet alles heb ik in mijn eigen gemaakte database staan.
Groeten,

Richard
Gebruikersavatar
Richard

Serverbeheerder
Berichten: 1964


Locatie: Westfriesland
Ervaringsniveau: ***
Foto's bewerken toestaan: Ja
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Tony D » do aug 16 2018 12:03 pm

Heb ExifTool geïnstalleerd en het doet precies wat ik wil!
Dank voor de tips.

Tony D
Nikon D7200, D90, 16-85 VR; 35/1.8, 50/1.8, 70-300 VR, 85 micro VR, SB700; http://www.photony.nl
Gebruikersavatar
Tony D

Clublid
Berichten: 1169


Locatie: Vlaardingen
Ervaringsniveau: ***
Foto's bewerken toestaan: Ja
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor ben42 » do aug 16 2018 2:20 pm

Richard schreef:Dat is jou reactie Ben. Heb jij het destijds geprobeerd?


Lightroom heeft een aantal voordelen, het geeft de toestand van dat moment weer, het heeft een interface die direct te gebruiken is. Maar hiermee files opsporen die niet in Lightroom voorkomen is niet mogelijk.

Het probleem met het ExifTool is en was:
1. Groot aantal 'kolommen', meer dan de meeste databases aankunnen.
2. De aanwezige kolommen varieren heel sterk.
3. Kolommen en/of rijen kunnen heel erg breed worden.
4. In de velden kunnen delimiters, zowel de veldscheider als de regelovergang voorkomen. (Excel kan niet tegen de regelovergangen).
5. Het tool is langzaam voor een zeer grote schijfscan.

Om de gegevens van verschillende plekken vandaan te halen en dan samen te voegen tot een enkele database, was voor mij destijds niet praktisch. Vooral het aantal kolommen en de variatie in kolommen kost erg veel moeite dat te ondervangen. De hoeveelheid moeite die ik erin moest stoppen om alles in een eenduidig formaat te krijgen was zeer groot.
Dus destijds heb ik het niet kunnen gebruiken om foto's die ik wel heb maar niet in mijn Lightroom voorkomen op te sporen.

Zojuist even en snelle (en kleine) scan (3 kwartier) gedaan, levert in dit geval 1753 kolommen op die in Excel niet goed worden gepresenteerd. Maar ondertussen heb ik wat meer tools gemaakt en kan ik beter omgaan met de verschillende variaties. Dus misschien ga ik nu na een scan van ExifTool, de data binnenhalen in een SQL-server database en dan middels een aantal scripts hier een keurige database van maken. Een volledige scan over mijn foto archief zal vele uren duren. De scan over al mijn verschillende opslagmedia wordt dan nog een hele klus.

Nadat alles in de database is gezet is het relatief eenvoudig om de files die nog niet in Lightroom voorkomen te identificeren.

Misschien ga ik er nu nog eens mee bezig.
(Momenteel kan ik 'alle' gegevens relatief gemakkelijk binnen krijgen in een 'name/value' table, ook hierop kun je met SQL als heel erg veel).

Hieronder een stukje dat ik vanochtend even in elkaar heb gedraaid. (Op een kleine vrij willekeurige set foto's).

Vriendelijke groet,
Ben

Klein stukje van het resultaat dat ik nu 'al' heb.
Hierbij alle exif velden met in de naam 'FocalLength' geselecteerd en de frequentie van inhouden geteld.
Maar ik kan ook allerlei andere selecties / ordeningen / tellingen /grouperingen doen.
Afbeelding
XD7/X700/F70/D70/D7000/D7700
Gebruikersavatar
ben42

Clublid
Berichten: 1372


Ervaringsniveau: ***
Foto's bewerken toestaan: Ja

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor MarcoEos70D » do aug 16 2018 4:33 pm

Ik heb een tijdje terug Explosureplot gebruikt. Werkte prima, maar hield geen rekening met de cropfactor.
"Te weten wat men weet, en te weten wat men niet weet, dát is kennis!" -Confucius-

Marco Weening Fotografie
Gebruikersavatar
MarcoEos70D

Forumlid
Berichten: 1297


Ervaringsniveau: ****

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor Richard » do aug 16 2018 4:49 pm

ben42 schreef:Het probleem met het ExifTool is en was:
1. Groot aantal 'kolommen', meer dan de meeste databases aankunnen.

Kwestie van de juiste database gebruiken - bij PostgreSQL is de limiet de harddisk grootte.
2. De aanwezige kolommen varieren heel sterk.

Zover weg zijn we inderdaad van standaardiseren, doet Lightroom dus netjes.

ExifTool kent er inderdaad heel wat: https://sno.phy.queensu.ca/~phil/exiftool/TagNames/index.html

Ben ik heel benieuwd hoe groot jou archief is. ExifTool hier over de foto's en films laten gaan, 64954 welgeteld en daar deed ExifTool 28 minuten en 16 seconden over; ruim 38 bestanden per seconde.

Dat gaf een bestand in ExifTool formaat output van 529 MB.

Dat inderdaad in een database en je kan er uithalen wat je wil.
Groeten,

Richard
Gebruikersavatar
Richard

Serverbeheerder
Berichten: 1964


Locatie: Westfriesland
Ervaringsniveau: ***
Foto's bewerken toestaan: Ja
Contacteer:

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor ben42 » do aug 16 2018 6:40 pm

Richard schreef:Kwestie van de juiste database gebruiken - bij PostgreSQL is de limiet de harddisk grootte.

PostgreSQL:
1,600 columns if all of the columns are very simple fields

Dus ook niet helemaal onbeperkt. Minder simpele velden wordt het een stuk minder, maar dat kan weer wat omhoog gebracht worden door een grotere blockgrote. Maar met onbekende ascii velden, waarvan de maat vooraf niet vast ligt en waarbij de velden lang kunnen worden, gaat het in PostgreSQL ook niet lukken.
(Nu gebruik ik omdat ik de lengte niet weet een extreem groot Ascii veld en bij SQLserver blijft het dan onder de 1024 velden).

Zover weg zijn we inderdaad van standaardiseren, doet Lightroom dus netjes.

Exif kent de mogelijkheid om eigen velden toe te voegen. Daar maken leveranciers gebruik van, ik kwam een aantal velden tegen met CANON in de veldnaam.

Ben ik heel benieuwd hoe groot jou archief is. ExifTool hier over de foto's en films laten gaan, 64954 welgeteld en daar deed ExifTool 28 minuten en 16 seconden over; ruim 38 bestanden per seconde.

Dat gaf een bestand in ExifTool formaat output van 529 MB.


Dat is in ieder geval bemoedigend. Zelf tel ik binnen Lightroom meer dan 100 000 foto's. Met jouw kentallen, daar kan ik wel mee uit de voeten. Dus dat moet ik op mijn nieuwe machine eens proberen.

Voortgang:
Ondertussen lukt het me om de CSV een volledige name-value tabel te maken. Daarvandaan kan ik weer alles maken wat ik wil, of ik kan direct met die name_value tabel aan de slag. Maar wat de kentallen voor mijn systeem zijn weet ik nog niet. Ik begin maar met eerst een Jaar door het mechanisme heen te halen, dit geeft mij dan een indicatie van snelheid en omvang voor het geheel.

Daarna zal ik dan allerlei opslag media door het mechanisme halen.

Daarna is het nog een kwestie van de dubbelen op te sporen, ik hoop dat te doen aan de hand van het opname tijdstip en het volgorde nummer, deze samen zouden een uniek paar moeten vormen. Dan nog even opletten waar ik geschoven heb met de tijd in de exif velden om de tijd precies goed te krijgen. (Tijdzones en kleine verschillen).

Ondertussen is het me wel gelukt om b.v. voor de brandpuntsafstand een query op te stellen die de aantallen en percentielen per brandpuntsafstand geeft. (Nu nog voor een enkel sensor formaat, maar dit is gemakkelijk uit te breiden met andere sensorformaten, per camera een cropfactor meegeven).

(Nu moet ik nog op mijn eigen systeem met 140 000 opnames aan de gang. Tot nu toe alleen maar een 'kleine' set gebruikt). Kom straks met wat resultaten.
Vriendelijke groet,
Ben
XD7/X700/F70/D70/D7000/D7700
Gebruikersavatar
ben42

Clublid
Berichten: 1372


Ervaringsniveau: ***
Foto's bewerken toestaan: Ja

Onderwerp:

Re: Bulk EXIF uitlezen

Berichtdoor ben42 » do aug 16 2018 6:50 pm

Resultaat van recent gemaakte foto's

Afbeelding
Bovenste grafiek het percentage foto's gemaakt bij de onder benoemde brandpunten.

Onderste grafiek de percentielen van foto's gemaakt bij de onder genoemde brandpunten.

Het percentielen overzicht is meer geleidelijk, beiden zijn in het percentage van het totaal aantal gemaakte foto's.
Van verschillende perioden of verschillende camera's (of andere criteria) zou je de onderste grafiek over elkaar kunnen leggen en dan vergelijken.

Met enige moeite zou je b.v. ook een grafiek kunnen maken van de aantallen foto's die je maakt bij een bepaalde hoeveelheid licht. Of hoeveel foto's je over het jaar heen maakt, is dit b.v. seizoen's gebonden.

Voor een volledige scan gaat exiftools momenteel out of memory. Zal het tool zo nog eens starten, maar dan met een minimum aan andere applicaties en servers open.

Vriendelijke groet,
Ben
XD7/X700/F70/D70/D7000/D7700
Gebruikersavatar
ben42

Clublid
Berichten: 1372


Ervaringsniveau: ***
Foto's bewerken toestaan: Ja


Terug naar “Fotobewerking en archivering”

Wie is er online

Gebruikers op dit forum: Geen geregistreerde gebruikers en 2 gasten