WelcomeWelcome | FAQFAQ | DownloadsDownloads | WikiWiki

Author Topic: Display calibration  (Read 2087 times)

Offline slune

  • Newbie
  • *
  • Posts: 4
Display calibration
« on: May 03, 2021, 01:20:21 PM »
Hi, I have a problem calibrating a RaspberryPi display. I am running piCore on RaspberryPi3. I bought 7" display from amazon (someting like https://www.aliexpress.com/item/4000731254998.html). Running it with ubuntu is flawless, so the display is not causing the issues. The thing is, that I calibrate the display using

Code: [Select]
sudo TSLIB_FBDEVICE=/dev/fb0 \
     TSLIB_TSDEVICE=/dev/input/event0 \
     TSLIB_CALIBFILE=/usr/local/etc/pointercal \
     TSLIB_CONFFILE=/usr/local/etc/ts.conf \
     TSLIB_PLUGINDIR=/usr/local/lib/ts \
     JIVE_NOCURSOR=1 \
     SDL_FBDEV=/dev/fb0 \
     SDL_MOUSEDRV=TSLIB \
     SDL_MOUSEDEV=$TSLIB_TSDEVICE \
     /usr/local/bin/ts_calibrate
xres = 1024, yres = 600
Took 1 samples...
Top left : X =   10 Y =   22
Took 2 samples...
Top right : X =  493 Y =    2
Took 2 samples...
Bot right : X =  504 Y =  298
Took 2 samples...
Bot left : X =    8 Y =  299
Took 2 samples...
Center : X =  253 Y =  167
-2.600424 2.050003 -0.033505
-29.027523 0.042862 2.018768
Calibration constants: -170421 134348 -2195 -1902347 2808 132301 65536

than I test the calibration using
Code: [Select]
sudo TSLIB_FBDEVICE=/dev/fb0 \
     TSLIB_TSDEVICE=/dev/input/event0 \
     TSLIB_CALIBFILE=/usr/local/etc/pointercal \
     TSLIB_CONFFILE=/usr/local/etc/ts.conf \
     TSLIB_PLUGINDIR=/usr/local/lib/ts \
     JIVE_NOCURSOR=1 \
     SDL_FBDEV=/dev/fb0 \
     SDL_MOUSEDRV=TSLIB \
     SDL_MOUSEDEV=$TSLIB_TSDEVICE \
     /usr/local/bin/ts_test
1620070933.457961:     87    108    255
1620070933.681914:     89    108    255
1620070933.691916:     93    110    255
1620070933.705921:    101    116    255
1620070933.715902:    111    128    255
1620070933.725946:    121    139    255
1620070933.735902:    129    147    255
1620070933.749899:    137    155    255
1620070933.759918:    139    157    255
1620070933.769916:    143    159    255
1620070933.779902:    145    163    255
1620070933.793933:    147    165    255
1620070933.803923:    151    170    255
1620070933.813922:    158    174    255
1620070933.827922:    162    176    255
1620070933.837927:    168    180    255
1620070933.847918:    176    184    255
1620070933.857924:    182    186    255
1620070933.871918:    190    191    255
1620070933.881917:    198    195    255
1620070933.891913:    204    197    255
1620070933.905919:    210    201    255
1620070933.915928:    219    203    255
1620070933.925887:    225    207    255
1620070933.939927:    233    212    255
1620070933.949883:    239    216    255
1620070933.959850:    245    220    255
1620070933.973886:    253    224    255
1620070933.983921:    259    226    255
1620070933.993900:    267    229    255
1620070934.003899:    273    233    255
1620070934.017896:    282    235    255
1620070934.027926:    290    237    255
1620070934.037919:    296    239    255
1620070934.047949:    304    241    255
1620070934.061934:    312    244    255
1620070934.071920:    316    248    255
1620070934.081900:    322    250    255
1620070934.091908:    329    254    255
1620070934.105924:    335    256    255
1620070934.115929:    341    258    255
1620070934.125899:    349    263    255
1620070934.139896:    355    265    255
1620070934.149964:    363    267    255
1620070934.159906:    371    271    255
1620070934.173914:    377    273    255
1620070934.183958:    386    277    255
1620070934.193870:    392    282    255
1620070934.203907:    400    284    255
1620070934.217925:    406    288    255
1620070934.227925:    412    290    255
1620070934.237886:    420    292    255
1620070934.251900:    428    295    255
1620070934.261921:    436    297    255
1620070934.271924:    445    299    255
1620070934.285922:    451    303    255
1620070934.295935:    459    305    255
1620070934.305924:    467    309    255
1620070934.315900:    473    312    255
1620070934.329923:    481    316    255
1620070934.339878:    487    320    255
1620070934.349916:    496    324    255
1620070934.359924:    504    328    255
1620070934.373920:    510    331    255
1620070934.383936:    518    333    255
1620070934.393901:    524    337    255
1620070934.403917:    532    339    255
1620070934.417921:    540    341    255
1620070934.427925:    548    346    255
1620070934.437924:    557    348    255
1620070934.451903:    565    352    255
1620070934.461921:    573    356    255
1620070934.471914:    581    360    255
1620070934.485907:    589    363    255
1620070934.495925:    599    367    255
1620070934.505901:    610    371    255
1620070934.519905:    618    375    255
1620070934.529961:    628    379    255
1620070934.539906:    638    384    255
1620070934.549878:    646    388    255
1620070934.563921:    656    392    255
1620070934.573916:    667    396    255
1620070934.583916:    677    403    255
1620070934.593916:    687    407    255
1620070934.607918:    695    411    255
1620070934.617924:    705    415    255
1620070934.627916:    713    420    255
1620070934.641933:    721    424    255
1620070934.651892:    732    428    255
1620070934.661899:    740    432    255
1620070934.671921:    748    437    255
1620070934.685921:    758    441    255
1620070934.695919:    766    445    255
1620070934.705924:    774    449    255
1620070934.719917:    783    453    255
1620070934.729915:    791    458    255
1620070934.739945:    801    462    255
1620070934.753901:    809    466    255
1620070934.763916:    819    470    255
1620070934.773917:    827    475    255
1620070934.787919:    837    479    255
1620070934.797920:    848    483    255
1620070934.807917:    856    487    255
1620070934.817920:    866    491    255
1620070934.831918:    874    496    255
1620070934.841926:    882    502    255
1620070934.851909:    890    510    255
1620070934.861892:    900    516    255
1620070934.875920:    909    523    255
1620070934.885921:    919    529    255
1620070934.895917:    929    535    255
1620070934.909922:    939    541    255
1620070934.919920:    949    550    255
1620070934.929917:    959    556    255
1620070934.939916:    969    564    255
1620070934.953943:    979    571    255
1620070934.963892:    990    577    255
1620070934.973904:    998    583    255
1620070934.983916:   1008    589    255
1620070934.997921:   1018    596    255
1620070935.007918:   1028    602    255
1620070935.017919:   1036    610    255
1620070935.031918:   1046    616    255
1620070935.041919:   1057    623    255
1620070935.051964:   1065    629    255
1620070935.065891:   1075    635    255
1620070935.075922:   1083    641    255
1620070935.085925:   1091    648    255
1620070935.095901:   1101    654    255
1620070935.109916:   1111    660    255
1620070935.119918:   1119    664    255
1620070935.129924:   1130    671    255
1620070935.143898:   1138    675    255
1620070935.153918:   1148    681    255
1620070935.163894:   1158    685    255
1620070935.173893:   1168    690    255
1620070935.187922:   1176    694    255
1620070935.197905:   1187    698    255
1620070935.207904:   1195    702    255
1620070935.221901:   1203    709    255
1620070935.231919:   1213    713    255
1620070935.241904:   1223    719    255
1620070935.251910:   1231    725    255
1620070935.265909:   1241    732    255
1620070935.275902:   1252    736    255
1620070935.285902:   1262    740    255
1620070935.295922:   1270    744    255
1620070935.309901:   1280    749    255
1620070935.319934:   1288    755    255
1620070935.329899:   1298    759    255
1620070935.343919:   1306    763    255
1620070935.353923:   1315    769    255
1620070935.363917:   1321    774    255
1620070935.377924:   1331    780    255
1620070935.387930:   1339    786    255
1620070935.397921:   1347    792    255
1620070935.407898:   1357    797    255
1620070935.421904:   1367    803    255
1620070935.431936:   1377    809    255
1620070935.441906:   1388    817    255
1620070935.455903:   1398    824    255
1620070935.465997:   1408    832    255
1620070935.475878:   1418    840    255
1620070935.485899:   1428    845    255
1620070935.499901:   1436    851    255
1620070935.509918:   1446    857    255
1620070935.519899:   1455    861    255
1620070935.533903:   1465    865    255
1620070935.543919:   1473    872    255
1620070935.553899:   1481    876    255
1620070935.563898:   1491    880    255
1620070935.577883:   1499    884    255
1620070935.587885:   1507    889    255
1620070935.597921:   1516    891    255
1620070935.607908:   1524    895    255
1620070935.621927:   1534    899    255
1620070935.631937:   1542    901    255
1620070935.641900:   1550    908    255
1620070935.655906:   1558    912    255
1620070935.665924:   1568    916    255
1620070935.675915:   1575    920    255
1620070935.689906:   1583    924    255
1620070935.699896:   1591    929    255
1620070935.709920:   1599    931    255
1620070935.723910:   1607    935    255
1620070935.733901:   1615    939    255
1620070935.743917:   1623    944    255
1620070935.753897:   1634    948    255
1620070935.767905:   1642    952    255
1620070935.777889:   1650    956    255
1620070935.787931:   1658    960    255
1620070935.797920:   1668    965    255
1620070935.811922:   1676    969    255
1620070935.821917:   1684    973    255
1620070935.831929:   1693    977    255
1620070935.845901:   1701    981    255
1620070935.855899:   1707    988    255
1620070935.865918:   1715    990    255
1620070935.875905:   1723    994    255
1620070935.889883:   1731    998    255
1620070935.899918:   1739   1002    255
1620070935.909916:   1745   1009    255
1620070935.923902:   1753   1013    255
1620070935.933898:   1762   1019    255
1620070935.943940:   1768   1023    255
1620070935.957904:   1774   1027    255
1620070935.967901:   1780   1032    255
1620070935.977908:   1786   1036    255
1620070935.987944:   1790   1040    255
1620070936.001881:   1794   1042    255
1620070936.011940:   1796   1044    255
1620070936.021905:   1798   1046    255
1620070936.035909:   1802   1048    255
1620070936.045927:   1806   1050    255
1620070936.055929:   1810   1052    255
1620070936.065894:   1814   1055    255
1620070936.079906:   1818   1059    255
1620070936.089928:   1822   1061    255
1620070936.099884:   1826   1063    255
1620070936.109899:   1828   1067    255
1620070936.123921:   1833   1069    255
1620070936.133917:   1835   1071    255
1620070936.143914:   1839   1073    255
1620070936.157900:   1843   1075    255
1620070936.167911:   1845   1077    255
1620070936.177899:   1847   1079    255
1620070936.187929:   1849   1082    255
1620070936.201921:   1853   1082    255
1620070936.211894:   1855   1086    255
1620070936.221921:   1859   1088    255
1620070936.235921:   1865   1092    255
1620070936.245921:   1869   1096    255
1620070936.255921:   1875   1098    255
1620070936.269900:   1879   1100    255
1620070936.279899:   1883   1102    255
1620070936.289948:   1887   1107    255
1620070936.299907:   1889   1109    255
1620070936.313930:   1893   1111    255
1620070936.323925:   1895   1113    255
1620070936.333902:   1897   1115    255
1620070936.347919:   1899   1117    255
1620070936.357927:   1901   1119    255
1620070936.367925:   1903   1121    255
1620070936.377918:   1905   1123    255
1620070936.391923:   1907   1125    255
1620070936.401929:   1909   1127    255
1620070936.421923:   1911   1129    255
1620070936.513872:   1913   1131    255
1620070936.533918:   1916   1133    255
1620070936.547915:   1918   1133    255
1620070936.557919:   1920   1133    255
1620070936.567907:   1922   1136    255
1620070936.581908:   1924   1136    255
1620070936.601914:   1924   1138    255
1620070936.611874:   1926   1138    255
1620070936.635913:   1926   1140    255
1620070936.645916:   1928   1140    255
1620070936.659908:   1928   1142    255
1620070936.669916:   1930   1142    255
1620070936.703916:   1930   1144    255
1620070936.713903:   1932   1144    255
1620070936.747917:   1934   1146      0
1620070936.757910:     -2    -29    255
^Csignal 2 caught
```
The output is a result of swiping from left-top corner to right bottom one.

The thing is, that the cursor is showing perfectly calibrated output in the left-top corner. The difference is larger and larger as I move further from it. When reaching middle of the screen, the cursor disappears in right-bottom corner. It seems like the touchscreen is calibrated to be double size compared to the real screen.

Any ideas?

Online Paul_123

  • Administrator
  • Hero Member
  • *****
  • Posts: 1078
Re: Display calibration
« Reply #1 on: May 05, 2021, 06:07:35 AM »
What is in your ts.conf?

Offline slune

  • Newbie
  • *
  • Posts: 4
Re: Display calibration
« Reply #2 on: May 10, 2021, 10:14:44 AM »
First of all, thank you Paul_123 for investing.

Code: [Select]
cat /usr/local/etc/ts.conf
# Access plugins
################

# Uncomment if you wish to use the linux input layer event interface
module_raw input

# For other driver modules, see the ts.conf man page


# Filter plugins
################

# Uncomment if first or last samples are unreliable
# module skip nhead=1 ntail=1

# Uncomment if needed for devices that measure pressure
module pthres pmin=1

# Uncomment if needed
# module debounce drop_threshold=40

# Uncomment if needed to filter spikes
# module median depth=5

# Uncomment to enable smoothing of fraction N/D
# module iir N=6 D=10

# Uncomment if needed
# module lowpass factor=0.1 threshold=1

# Uncomment if needed to filter noise samples
module dejitter delta=100

# Uncomment and adjust if you need to invert an axis or both
# module invert x0=800 y0=480

# Uncomment to use ts_calibrate's settings
module linear

Also, I think that I should add, that I checked wheather the configuration is in fact stored in pointercal. It is.

Online Paul_123

  • Administrator
  • Hero Member
  • *****
  • Posts: 1078
Re: Display calibration
« Reply #3 on: May 13, 2021, 02:17:22 PM »
Looks like your resolutions are off.   According to the link you sent me, that is an 800x480 display.

You probably need to set them manually.

Offline slune

  • Newbie
  • *
  • Posts: 4
Re: Display calibration
« Reply #4 on: May 16, 2021, 01:20:50 PM »
Oh, I am pretty noob here. I googled away, but all methods I found talk about X server, which (if I understand correctly) I don't have.

Would you please direct me?

Also, I don't know how to make the changes (for example in ts.conf) persistent. The file is always refreshed after rebooting.

Offline rullolex

  • Full Member
  • ***
  • Posts: 134
    • Rullolex
Re: Display calibration
« Reply #5 on: May 17, 2021, 10:37:23 AM »
Hi,

if you have to force the resolution you can edit the file config.txt in the mmcblk0p1 partition

uncomment and write your resolution in the framebuffer section.

sorry but more I can't help you

Offline slune

  • Newbie
  • *
  • Posts: 4
Re: Display calibration
« Reply #6 on: May 18, 2021, 09:53:03 AM »
Well, this sounds as a solution, but there is no config in the /mnt/mmcblk0p1/ . In fact, there is no config.txt file at all.
Code: [Select]
$ sudo find / -name config.txt
$

I found a config.cfg though, but this has resolution set correctly.

Code: [Select]
cat /usr/local/sbin/config.cfg | grep JL
JL_SCREEN_WIDTH="1024"
JL_SCREEN_HEIGHT="600"
JL_FRAME_BUFFER="/dev/fb0"
JL_FRAME_RATE=""
JL_FRAME_DEPTH=""

Offline rullolex

  • Full Member
  • ***
  • Posts: 134
    • Rullolex
Re: Display calibration
« Reply #7 on: May 18, 2021, 09:57:11 AM »
Hi,

have you try 800x480 as Paul_123 says

Offline Rich

  • Administrator
  • Hero Member
  • *****
  • Posts: 11220
Re: Display calibration
« Reply #8 on: May 18, 2021, 10:02:15 AM »
Hi slune
After you boot up  /mnt/mmcblk0p1  is automatically unmounted. Do this:
Code: [Select]
mount /mnt/mmcblk0p1You should now be able to see  config.txt.

Offline rullolex

  • Full Member
  • ***
  • Posts: 134
    • Rullolex
Re: Display calibration
« Reply #9 on: May 19, 2021, 07:40:36 AM »
Well, this sounds as a solution, but there is no config in the /mnt/mmcblk0p1/ . In fact, there is no config.txt file at all.

sorry i assumed you knew you needed to mount the partition